[发明专利]文件语句概念标注系统及其训练方法与标注方法

说明书

本揭露公开了一种文件语句概念标注系统及其训练方法与标注方法，文件语句概念标注系统的标注方法包括以下步骤：输入未标注文件及一或多个语句概念至预训练语言模型，以获得未标注文件的词向量集合；将未标注文件之词向量集合输入至文件分析模型，以获得各个语句概念的语句集于未标注文件的起始位置及结束位置；依据各个起始位置及各个结束位置，获得各个语句集。

技术领域

本揭露涉及一种文件语句概念标注系统及其训练方法与标注方法。

背景技术

文件结构分析是深层文件理解和资讯抽取的重要技术，目的是由字词及专名(named entity)的层级更扩张为多语句等更大范围语境的层级，其应用非常广泛，包括将文件内容切割为更小单元的文件片段区块，并给予不同区块对应的类别标注，例如将许多效能竞赛测试标准是将生医领域科技论文摘要中的语句自动分析切割标注为背景、目的、方法、结论、贡献等不同的语句概念组合。

非结构化文件内容经过文件结构分析标注之后，除了可以得到多个语句组的语意类别(即语句概念)标注之外，更能够做为更上层应用分析的特征资讯。然而，在实务运用时除了正确率的提升之外，对文件结构的变异，亦需要足够的容忍度。

发明内容

本揭露公开了一种文件语句概念标注系统及其训练方法与标注方法。

根据本揭露的一实施例，提供一种文件语句概念标注系统的训练方法。文件语句概念标注系统的训练方法包括以下步骤。提供数份已标注文件。各个已标注文件已标注一或多个语句概念的一或多个语句集。产生各个语句集于这些已标注文件的起始位置及结束位置。对这些已标注文件调整这一或多个语句集的顺序，并更新各个起始位置及各个结束位置，以获得数份生成文件。各个生成文件已标注这一或多个语句集。将这些生成文件输入预训练语言模型，以获得各个生成文件的词向量集合。将这些生成文件的词向量集合、各个起始位置及各个结束位置输入至文件分析模型，以对文件分析模型进行训练。文件分析模型用于对未标注文件进行这一或多个语句概念的标注。

根据本揭露的另一实施例，提出一种文件语句概念标注系统的标注方法。文件语句概念标注系统的标注方法包括以下步骤。输入未标注文件及一或多个语句概念至预训练语言模型，以获得未标注文件的词向量集合。将未标注文件的词向量集合输入至文件分析模型，以获得各个语句概念的语句集于未标注文件的起始位置及结束位置。依据各个起始位置及各个结束位置，获得各个语句集。

根据本揭露的再一实施例，提出一种文件语句概念标注系统。文件语句概念标注系统包括位置产生单元、增强资料产生单元、预训练语言模型及文件分析模型。位置产生单元用于接收数份已标注文件。各个已标注文件已标注一或多个语句概念之一或多个语句集。位置产生单元产生各个语句集于各个已标注文件的起始位置及结束位置。增强资料产生单元用于对这些已标注文件调整这一或多个语句集的顺序，并更新各个起始位置及各个结束位置，以获得数份生成文件。各个生成文件已标注这一或多个语句集。预训练语言模型用于依据这些生成文件获得各个生成文件的词向量集合。文件分析模型接收这些生成文件的词向量集合、各个起始位置及各个结束位置，以进行训练。文件分析模型用于对未标注文件进行各个语句概念的标注。

为了对本揭露的上述及其他方面有更佳的了解，下文特举实施例，并配合所附附图详细说明如下：

附图说明

图1为根据一实施例对未标注文件进行文件语句概念标注的示意图；

图2A～图2E为根据一实施例的文件语句概念标注系统的执行标注方式；

图3为根据一实施例的文件语句概念标注系统的方块图；

图4为根据一实施例的文件语句概念标注系统之标注方法的流程图；

图5为根据一实施例的文件语句概念标注系统之训练方法的流程图；

图6为根据一实施例采用文件语句概念标注系统进行关系抽取的示意图；