[发明专利]一种基于主动学习的中文电子病历命名实体识别方法

说明书

本发明属于文本标注领域，具体涉及一种基于主动学习的中文电子病历命名实体识别方法，包括：获取已标记实体的初始训练集和未标记实体的待打标数据；以该训练集，训练基于深度学习的命名实体识别模型，得到中间命名实体识别模型，该中间命名实体识别模型评估该未标记数据中每个实例的价值，将该未标记数据中价值最高的实例进行命名实体标注后加入该训练集；重复训练直到满足预设条件，将待命名实体识别的文本数据输入该最终命名实体识别模型，得到命名实体识别结果。本发明通过让模型预测自己的损失，从而找到能让自己改变最大的样本，满足了中文电子病历这一场景下对于句子级的命名实体识别准确率的高要求，提高了识别的准确率。

技术领域

本发明属于文本标注领域，具体涉及一种基于主动学习的中文电子病历命名实体识别方法。

背景技术

随着医疗领域检测技术和疾病诊断方式的发展,医生们越来越多地使用电子文档记录病人的相关信息以及疾病的各项表征数据。因此产生了大量的电子病历文本，如何有效地从大量电子病历文本数据中抽取出有效信息,从而使得医护人员能够方便快捷地使用医疗数据分析系统,使现在人工智能在医疗领域面临的问题。面对信息量庞大的电子病历文本信息,医生必须快速有效地提取出对于病情诊断来说最为有效的信息，例如,疾病名称、发病的部位、对应的症状等内容。但是在医疗电子报告中通常会包含一些相关度较低的信息,所以开发有关技术帮助医生们快速地排除无关信息的干扰以及抽取有效信息是十分必要的。

其中,中文电子病历的命名实体识别工作是医疗信息处理的上游工作。命名实体识别是指识别出文本中具有特定意义的实体。但是经过标注的中文电子病历资源目前十分稀缺,如何获得有效的、高质量的标注数据成为了急需解决的问题。主动学习是机器学习的一个子领域，主动学习的思想是通过未标注数据基于某一种筛选策略有选择地选取样本进行人工标注，从而达到减少人工标注工作量，同时最大限度的提升模型表现。现有的广泛使用的主动学习策略大致可分为一下几种：

(1)基于不确定性的主动学习策略：不确定性抽样可以用于识别当前机器学习模型中的决策边界附近的未标记样本。这里信息最丰富的例子是分类器最不确定的例子。模型最不确定性的样本可能是在分类边界附近的数据。而我们模型学习的算法将通过观察这些分类最困难的样本来获得有关类边界的更多的信息。

(2)基于代表性的主动学习策略：代表性抽样是从数据的分布考虑的常用策略。算法根据数据分布确保查询的样本能够覆盖整个数据分布以保证标注数据的多样性。

然而，基于不确定性的主动学习策略有一个非常强的假设就是所有样本独立同分布，现实世界中并不总是如此。基于代表性的主动学习策略相比于基于不确定性的主动学习策略能够更有效的选择具有不同特征的样本，但是却并不能有效识别对于模型来说信息量最丰富的样本；并且在中文电子病历命名实体识别这一场景下，对于句子级准确率有着相当高的要求。

发明内容

为解决上述技术问题，本发明提出一种基于主动学习的中文电子病历命名实体识别方法，包括：

将待识别的中文电子病历文本输入训练好的命名实体识别模型的主网络进行识别，并得到识别结果；

所述命名实体识别模型包括：主网络和子网络；

所述命名实体识别模型的训练过程包括：

S1：获取未标记的中文电子病历文本，从中选取部分进行人工标注，以4:1的比例划分训练集和验证集；

S2：将训练集中的文本输入命名实体识别模型的主网络，对主网络进行训练，根据训练完成后的主网络在验证集上的识别结果获得F1值，保存F1最大的模型参数，并固定主网络的参数；

S3：计算训练集中的文本的token的交叉熵损失；