[发明专利]一种基于Bi-LSTM与CRF融合的非结构化信息提取方法

权利要求书

1.一种基于Bi-LSTM与CRF融合的非结构化信息提取方法，其特征在于，所述方法包括以下步骤：

S1：对数据集进行分句、分词预处理；

S2：对分词后的数据进行B-I-II-O标签标注；

S3：建立字词向量表示；

S4：建立Bi-LSTM神经网络层，并利用所述Bi-LSTM神经网络层获得每个单词对应于每个标签的得分概率；

S5：建立CRF层，并利用所述CRF层获得最大概率的输出标注序列；

S6：对抽取信息进行后处理。

2.如权利要求1所述的基于Bi-LSTM与CRF融合的非结构化信息提取方法，其特征在于，所述步骤S2，具体包括：对分词后的数据中同一属性的长文本拆分为总句和分句，并进行标注。

3.如权利要求2所述的基于Bi-LSTM与CRF融合的非结构化信息提取方法，其特征在于，所述步骤S3，具体包括：

S31：建立字典；

S32：编码词向量；

S33：训练向量矩阵。

4.如权利要求3所述的基于Bi-LSTM与CRF融合的非结构化信息提取方法，其特征在于，所述步骤S32中，所述字典将电装设计数据中所有字符进行统计，为每个字建立数字索引。

5.如权利要求3所述的基于Bi-LSTM与CRF融合的非结构化信息提取方法，其特征在于，所述步骤S32，具体包括：通过输入层读取每个字的数字索引，在查找层使用word2vec的CBOW模型将其映射为词向量。

6.如权利要求1所述的基于Bi-LSTM与CRF融合的非结构化信息提取方法，其特征在于，所述步骤S4，具体包括：

S41：将一个句子X的序列{x1,x2,…,xn}作为各个时间步的输入；

S42：将正向LSTM隐藏层输出序列(h1，h2，…，hn)和反向LSTM隐藏层输出序列(h1，h2，…，hn)进行拼接；

S43：将拼接后的结果Pi＝hj⊕hj,1＜＜j＜＜n作为Bi-LSTM的输出，Bi-LSTM层的输出表示每个单词对应各个类别的分数。

7.如权利要求1所述的基于Bi-LSTM与CRF融合的非结构化信息提取方法，其特征在于，所述步骤S5，具体包括：

S51：概率计算；

S52：参数估计；

S53：序列标注。

8.如权利要求7所述的基于Bi-LSTM与CRF融合的非结构化信息提取方法，其特征在于，建立的CRF层表达式为：

其中，Z(x)＝∑_yexp(w·F(y,x))，F(y,x)表示包含特征权重和特征函数的全局特征向量，w是梯度下降法中的梯度。

9.如权利要求1所述的基于Bi-LSTM与CRF融合的非结构化信息提取方法，其特征在于，所述最大概率的输出标注序列表达式为：

10.如权利要求1所述的基于Bi-LSTM与CRF融合的非结构化信息提取方法，其特征在于，所述步骤S6，具体包括：根据最大概率的输出标注序列，执行非结构化信息提取。