[发明专利]基于半监督小样本扩展的命名实体识别方法及系统

说明书

本申请公开了一种基于半监督小样本扩展的命名实体识别方法及系统，该命名实体识别方法包括：S1、获取训练样本集；S2、根据训练样本集的选取类型及方法设计命名实体标签；S3、根据命名实体标签对所述训练样本集进行序列标注，得到标注文本；S4、根据标注文本进行模型训练，构建命名实体识别模型；S5、采集未标注数据集，应用命名实体识别模型对所述未标注数据集进行标签预测，得到标签预测文本；S6、对所述标签预测文本进行采样，得到采样文本，将采样文本回填至训练样本集进行再次训练；S7、判断各命名实体标签所包含的样本数据是否趋于平衡，若趋于平衡，则结束，若各命名实体标签所包含的样本数据存在差距，则返回步骤S4。

技术领域

本发明涉及数据处理领域，面向命名实体识别技术应用，具体涉及基于半监督小样本扩展的命名实体识别方法及系统。

背景技术

近年来,随着预训练模型以及各类神经网络模型在各领域的成功应用,采用预训练语言模型与神经网络的实体识别方法开始成为研究主流。然而在实际的实体识别应用场景中，往往存在着样本类别不平衡问题，不同类别的样本量差异非常大，将会导致小样本标签所包含的特征过少，模型受到其他样本数据的干扰，训练得到的神经网络模型会由样本数较多的类别所主导,很难学习小样本数据特征，导致小样本标签识别性能较差。

目前针对实体识别任务中样本不平衡问题，现有的技术方案存在以下问题：

1、采用过采样，其基本思想是增加少样本类别的数据量，使得各个类别样本趋于平衡后再进行模型的学习。过采样方法可以缓解样本不均衡带来的误差，但如果样本的噪音过大时，因为噪音也被重复使用，其结果反而会更差，此外会带来更大的运算开销；

2、采用欠采样，其基本思想是减少多样本类别的数据量，使得各个类别样本趋于平衡后再进行模型的学习。然而这些欠采样方法往往通过抛弃一些样本数据进行，从而弱化各个标签间的影响，可能会造成模型偏差很大，同时标注样本数据是非常宝贵的资源，这种方法难以利用全部的样本数据，造成资源浪费；

3、采用阈值移动，其思想是不处理样本数据，而是基于原始训练样本集进行学习，用训练好的分类器进行预测时，将再缩放的公式嵌入到决策过程中。然而阈值的选择对于样本不平衡的处理性能影响较大，且在实体识别过程中，效果并不理想；

4、传统命名实体识别方法难以建模实体关键词之间的联系，无法充分利用这种联系。

发明内容

本申请实施例提供了一种基于半监督小样本扩展的命名实体识别方法及系统，以至少解决相关技术中主观因素影响的问题。

本发明提供了一种基于半监督小样本扩展的命名实体识别方法，所述方法包括以下步骤：

S1、获取训练样本集；

S2、根据所述训练样本集的选取类型及方法设计命名实体标签；

S3、根据所述命名实体标签对所述训练样本集进行序列标注，得到标注文本；

S4、根据所述标注文本进行模型训练，构建命名实体识别模型；

S5、采集未标注数据集，应用所述命名实体识别模型对所述未标注数据集进行标签预测，得到标签预测文本；

S6、对所述标签预测文本进行采样，得到采样文本，将所述采样文本回填至所述训练样本集进行再次训练；

S7、判断各所述命名实体标签所包含的样本数据是否趋于平衡，若各所述命名实体标签所包含的样本数据趋于平衡，则结束，若各所述命名实体标签所包含的样本数据存在差距，则返回所述步骤S4。

作为本发明的进一步改进，所述步骤S1具体包括以下步骤：

S11、接收到对所述命名实体识别模型进行训练的请求时，获取所述命名实体识别模型所要识别的目标文本所在的指定领域；