[发明专利]基于深度语义信息表示的中文临床医疗实体识别方法

说明书

本发明提出了一种基于深度语义信息表示的中文临床医疗实体识别方法，包括两部分内容：1)中文临床医疗实体的表示方法；2)中文临床医疗实体的识别方法。表示方法包括以下两种：单标签表示和多标签表示。识别方法融入基于医疗领域偏旁部首信息的汉字表示方法，基于CNN获取医疗文本的局部语义信息，基于双向LSTM获取医疗文本的全局语义，并基于Attention机制对句子中不同词的语义信息进行选择。本发明继承了深度学习的优势，具有较少人工特征干预及更高的准确率和召回率等优点。

技术领域

本发明属于智慧医疗技术领域，尤其涉及一种基于深度语义信息表示的中文临床医疗实体识别方法。

背景技术

随着医疗信息技术的发展，临床医疗信息系统不断普及，出现了大量可用的临床医疗数据。这些数据不仅能够支持临床决策，还能供临床和转化医学方面的研究使用。利用这些数据的一个主要障碍在于：蕴含于临床医疗记录中的有用信息无法被计算机系统直接使用。能够从原始文本中抽取结构化信息的文本分析技术是解决这一障碍的关键。医疗实体识别作为临床医疗文本分析的基础任务之一，其相关技术对临床医疗决策支持系统、临床医疗知识挖掘研究等方面的发展意义重大，受到了学术界和工业界的广泛关注。

在过去二三十年内，研究者们大量地研究了针对不同类型临床记录的临床医疗实体识别方法，并开发了一些应用系统。现有临床医疗实体识别的方法主要面向英文的临床医疗文本，其他语言电子病历的临床医疗实体识别研究相对较少，采用的方法主要有规则匹配、统计机器学习以及两者的结合。基于规则匹配的方法需要医疗领域的专家撰写规则，成本高昂，且移植性较差。基于统计机器学习的方法需要手工提取大量可靠的特征来获取高的实体识别性能。

近年来，随着深度学习在自然语言处理领域的兴起，深度学习已经被广泛应用到词法、句法、词义消歧、语义分析、信息抽取、问答等多个方面。就文本分析领域的基础任务命名实体识别而言，早期的基于窗口的深层神经网络模型就用来识别通用领域的命名实体，其性能超过统计机器学习算法。2015年出现了一系列使用RNN结合CRF的命名实体识别工作，在通用领域其效果已超过基于丰富特征的命名实体识别主流模型(如CRF等)。但在临床医疗领域，统计机器学习算法仍然是医疗实体识别的主流技术，面向中文临床医疗文本的实体识别方法的研究还比较少。

与英文相比，中文有自己独有的特点，中文是象形文字，偏旁带有大量的字词语义信息。把英文文本分析技术直接用来分析中文文本性能往往不能达到最优。因此，在处理中文时，需要从中文自身的特点，设计合适的处理方法。

发明内容

为了解决中文医疗领域的命名实体识别问题，本发明从中文自身的特点出发，提供了一种基于深度语义信息表示的中文临床医疗实体识别方法。该方法具有以下特点：1)根据临床医疗实体的表现形式，设计了两种表示新的表示方法；2)充分考虑汉字的构成特点，将包含汉字语义的偏旁进行深度表示；3)设计了一种同时考虑了字词局部上下文信息和句子全局信息的深度神经网络。

本发明采用如下技术方案：

一种基于深度语义信息表示的中文临床医疗实体识别方法，其特征在于：所述方法采用深度神经网络模型，整体上分为5层：(1)输入层，(2)CNN层，(3)双向LSTM层，(4)Attention层，(5)输出层；所述方法包括：

训练时，首先用单标签或多标签表示方法对包含中文临床医疗实体的句子进行表示，然后采用以下步骤进行模型训练：

S1、采用常用的字词分布式表示学习算法在大量医疗领域相关的文本上训练得到字向量分布式表示；

S2、从垂直网站和/或医疗业务系统中自动抽取大规模医疗实体构成临床领域词典，把词典中的字进行偏旁部首拆分，抽取并统计得到带有不同类型临床医疗实体语义信息的偏旁部首，根据偏旁部首给每一个字赋予一个临床实体类型语义表示向量，进行随机初始化；