[发明专利]一种面向水利文本的嵌套实体识别方法

权利要求书

1.一种面向水利文本的嵌套实体识别方法，其特征在于，包括以下步骤：

(1)基于现有水利行业标准和第三方词库形成基础词典，并使用一种新词发现算法挖掘新词汇来扩充基础词典；

(2)在词嵌入过程中，使用领域词典，将词汇的信息融入到字符表示，增强语义表示；

(3)在编码过程中，使用双向长短时记忆网络进行特征提取；

(4)在解码过程中，提出一种由外向内的解码方法，在预测到实体时，会自动寻找内部实体，直至内部不存在任何实体。

2.根据权利要求1所述的一种面向水利文本的嵌套实体识别方法，其特征在于，所述步骤(1)包括以下步骤：

(11)利用信息熵和凝固度来挖掘新词汇，定位词典中的词汇出现在原始语料中的位置，计算信息熵来评判该词汇相邻字的丰富程度，信息熵小于20，则将该词汇与邻接字拼接形成新的词汇；

(12)当形成新的词汇，会计算该词汇的凝固度决定是否将词汇加入进词典，当凝固度大于1.25将词汇加入词典并对词典进行去重。

3.根据权利要求1所述的一种面向水利文本的嵌套实体识别方法，其特征在于，所述步骤(2)包括以下步骤：

(21)将词汇信息融入字符表示，为每个字符保留根据词典获得到的所有可能的切分结果，对句子中的每个字符构建{B,M,E,S}词集；

(22)将每个词集里面的词合并，压缩成一个固定维度的向量，并使用现有工具进行词嵌入。

4.根据权利要求1所述的一种面向水利文本的嵌套实体识别方法，其特征在于，所述步骤(4)包括以下步骤：

(41)选用CRF进行基础解码，为每个实体类型准备一个CRF，以由外向内迭代的方式找到每个可能存在的实体；

(42)使用多个CRF，计算整个句子的CRF分数，全局最优的标签序列，获取所有的外部实体，将实体添加到实体集合；如果编码层输出的序列为H＝h₁,h₂,h₃,…,h_n，h_i代表第i个字符的特征向量，表示在特征向量序列为H，实体类型为k情况下的实体标签序列，计算的CRF分数计算公式如下：

其中，代表中从标签到标签的转移分数，如果到标签没有相关性，反之，和代表权重矩阵和偏执向量；

(43)以实体起始位置形成新的跨度，重新使用CRF计算分数，从而得到内部实体的标签序列，将内部实体添加到实体集合；

(44)重复步骤(43)直到不出现任何新的实体。

5.根据权利要求3所述的一种面向水利文本的嵌套实体识别方法，其特征在于，所述步骤(21)包括以下步骤：

(211)计算词集{B}，{B}代表所有以该字符作为起始字符的单词的集合，并且集合中的所有单词属于词典；

(212)计算词集{M}，{M}代表所有以该字符作为中间字符的单词的集合，并且集合中的所有单词属于词典；

(213)计算词集{E}，{E}代表所有以该字符作为结尾字符的单词的集合，并且集合中的所有单词属于词典；

(214)计算词集{S}，{S}代表字符本身；

(215)当某个词集不存在任何满足要求的单词时标记为“Null”；

(216)将每个字符对应形成的四个词集拼接。

6.根据权利要求3所述的一种面向水利文本的嵌套实体识别方法，其特征在于，所述步骤(22)包括以下步骤：

(221)以单词在语料中出现频率作为权重，形成固定维度的向量；

(222)使用预训练过的ELMO进行词嵌入。