[发明专利]一种基于金字塔层级网络的嵌套实体检测方法

说明书

本发明公开了一种基于金字塔层级网络的嵌套实体检测方法，属于自然语言处理技术领域。该嵌套实体检测方法包括：(一)对单词进行编码获得词向量，将词向量作为仅包含单个单词的文本区域的表示输入第一个解码层；(二)当前解码层对输入的每个文本区域的表示进行命名实体识别，将相邻的两个文本区域的表示被合并为一个新的文本区域的表示，输入到下一解码层，重复该步骤直到次数达到预设的层数或输入文本的长度；(三)对应于上述金字塔层级网络，使用合适的优化方法进行训练；(四)将待检测文本输入训练好的金字塔层级网络，获得命名实体识别结果。本发明的基于金字塔层级网络的嵌套实体检测方法可以解决命名实体识别中存在实体嵌套的问题。

技术领域

本发明属于自然语言处理技术领域，涉及一种嵌套实体检测方法，特别是涉及一种基于金字塔层级网络的嵌套实体检测方法。

背景技术

命名实体识别是信息抽取中的重要任务。给定文本作为输入，命名实体识别的目的是识别出输入文本中对应类别的命名实体。例如给定输入“Former U.N.AmbassadorJeane Kirkpatrick”，我们需要识别出“Jeane Kirkpatrick”是一个人物命名实体。

传统的方法通常将命名实体识别视为一个序列标注问题，即给定输入文本，对文本中的每一个词打上一个特定的标签，然后根据合并词级别的标签来最终得到命名实体。这类方法通常假定每一个词至多只属于一个命名实体。然而，嵌套命名实体在自然语言中分布十分广泛，对于上述例子“Former U.N.Ambassador Jeane Kirkpatrick”，其中“U.N.”为组织命名实体，“Ambassador”为角色命名实体，“Jeane”为姓命名实体，“Kirkpatrick”为名命名实体，“U.N.Ambassador”为角色命名实体，“Former U.N.Ambassador”为角色命名实体，“Jeane Kirkpatrick”为人物命名实体，“Former U.N.Ambassador JeaneKirkpatrick”整个短语为人物命名实体。这些命名实体存在大量的嵌套关系，这类嵌套结构通常揭示了命名实体之间的特殊关系，因此忽视这类的嵌套命名实体会对许多下游任务(如关系抽取、事件抽取等)产生重大的影响。

发明内容

为克服现有的命名实体提及检测方法无法解决嵌套命名实体提及识别的不足，本发明提供了一种基于金字塔层级网络的命名实体识别方法。对于存在嵌套关系的两个不同的命名实体，嵌套的命名实体长度一定大于被嵌套的命名实体长度，否则无法构成嵌套关系。因此在本发明中，嵌套的命名实体根据命名实体的长度被分离到不同的解码层进行解码，先识别长度较短的命名实体，再识别较长的命名实体，从而解决嵌套命名实体识别的问题。本发明所采用的技术方案如下：一种基于金字塔层级网络的嵌套实体检测方法，所述金字塔层级网络依次由一个编码层与若干个解码层首尾连接组成；所述编码层由词嵌入层和第一长短记忆神经网络LSTM₁，所述词嵌入层的输出端与第一长短记忆神经网络LSTM₁的输入端连接；所述解码层包括：第二长短记忆神经网络LSTM₂、卷积神经网络、全连接神经网络，所述第二长短记忆神经网络LSTM₂的输出端与卷积神经网络的输入端连接，卷积神经网络的输出端与全连接神经网络的输入端连接。所述嵌套实体检测方法包括以下步骤：

(1)将文本输入到金字塔层级网络，通过编码层，对输入文本中的单词编码为词向量；

(2)将编码后的词向量作为仅包含单个词的文本区域的表示，并将所述文本区域的表示输入到第一个解码层；

(3)对于输入的文本区域的表示，使用当前解码层的命名实体识别器检测每个文本区域是否为命名实体，若是则输出该文本区域对应的命名实体类型；若不是，则输出该文本区域对应的命名实体类型为空类型；

(4)对于经过当前解码层的命名实体识别器的文本区域的表示，使用当前解码层的卷积神经网络将相邻的文本区域的表示融合为新的文本区域的表示；