[发明专利]文件语句概念标注系统及其训练方法与标注方法

权利要求书

1.一种文件语句概念标注系统的训练方法，包括：

提供复数份已标注文件，各该已标注文件已标注一或多个语句概念的一或多个语句集；

产生各该语句集于各该已标注文件的起始位置及结束位置；

对该些已标注文件调整该一或多个语句集的顺序，并更新各该起始位置及各该结束位置，以获得复数份生成文件，各该生成文件已标注该一或多个语句集；

将该些生成文件输入预训练语言模型，以获得各该生成文件的词向量集合；以及

将各该生成文件的该词向量集合、各该起始位置及各该结束位置输入至文件分析模型，以对该文件分析模型进行训练，该文件分析模型用于对未标注文件进行该一或多个语句概念的标注。

2.如权利要求1所述的文件语句概念标注系统的训练方法，其中该一或多个语句集的其中之一包含一个以上句子。

3.如权利要求1所述的文件语句概念标注系统的训练方法，其中该文件分析模型为接收该些生成文件的全文。

4.如权利要求1所述的文件语句概念标注系统的训练方法，其中该文件分析模型为估测各该语句集于该未标注文件的各该起始位置及各该结束位置。

5.如权利要求1所述的文件语句概念标注系统的训练方法，其中该些已标注文件未输入至该文件分析模型进行训练。

6.如权利要求1所述的文件语句概念标注系统的训练方法，其中该预训练语言模型为BERT模型、ALBERT模型、XLNet模型、RoBERTa模型、DeBERTa模型、或以上模型之压缩或删减或简化型式。

7.如权利要求1所述的文件语句概念标注系统的训练方法，其中该文件分析模型包含致密层及归一化指数函式层。

8.一种文件语句概念标注系统的标注方法，包括：

输入未标注文件及一或多个语句概念至预训练语言模型，以获得该未标注文件的词向量集合；

将该未标注文件的该词向量集合输入至文件分析模型，以获得各该语句概念的语句集于该未标注文件的起始位置及结束位置；以及

依据各该起始位置及各该结束位置，获得各该语句集。

9.如权利要求8所述的文件语句概念标注系统的标注方法，其中该一或多个语句集的其中之一包含一个以上句子。

10.如权利要求8所述的文件语句概念标注系统的标注方法，其中该文件分析模型为接收该未标注文件的全文。

11.如权利要求8所述的文件语句概念标注系统的标注方法，其中该预训练语言模型为为BERT模型、ALBERT模型、XLNet模型、RoBERTa模型、DeBERTa模型、或以上模型之压缩或删减或简化型式。

12.如权利要求8所述的文件语句概念标注系统的标注方法，其中该文件分析模型包含致密层及归一化指数函式层。

13.一种文件语句概念标注系统，包括：

位置产生单元，用于接收复数份已标注文件，各该已标注文件已标注一或多个语句概念的一或多个语句集，该位置产生单元产生各该语句集于各该已标注文件的起始位置及结束位置；

增强资料产生单元，用于对该些已标注文件调整该一或多个语句集的顺序，并更新各该起始位置及各该结束位置，以获得复数份生成文件，各该生成文件已标注该一或多个语句集；

预训练语言模型，用于依据该些生成文件获得各该生成文件的词向量集合；以及

文件分析模型，接收各该生成文件的该词向量集合、各该起始位置及各该结束位置，以进行训练，该文件分析模型用于对未标注文件进行各该语句概念的标注。