[发明专利]英文文本序列标注方法、系统及计算机设备

说明书

本发明实施例提供了一种基于神经网络的英文文本序列标注方法，所述方法包括：提取目标句子的单词信息、字符信息和形态特征，并根据所述单词信息、字符信息和形态特征输入到第一BI‑LSTM层和第一dropout层以得到第一输出矩阵通过选择性信息对应的第四矩阵得到第二输出矩阵通过语义信息对应第五矩阵Ssubgt;m×d/subgt;得到第三输出矩阵通过二元信息对应的第六矩阵Bsubgt;m×d/subgt;第四输出矩阵将和进行线性相加，得到线性相加结果将线性相加结果O输入第二LSTM层得到第五输出矩阵将作为条件随机场CRF的输入序列，以通过CRF输出标签序列Y＝(ysubgt;1/subgt;,ysubgt;2/subgt;,...,ysubgt;m/subgt;)。本发明实施例可以有效提升标注准确率。

技术领域

本发明实施例涉及计算机数据处理领域，尤其涉及一种基于神经网络的英文文本序列标注方法、系统、计算机设备以及计算机可读存储介质。

背景技术

随着网络技术的普及，文本数据资源的规模日益增长，例如CNN、BBC等新闻网站每天都会产生大量文本数据。同时，面对规模庞大的文本数据资源，人们开始借助自然语言处理(Natural Language Processing，NLP)等技术来对海量文本数据进行信息提取、挖掘、分类和归纳等一系列操作。而在自然语言处理中，序列标注模型是最常见的模型，也有着广泛地应用，其输出的是一个标签序列。通常而言，标签之间是相互联系的，构成标签之间的结构信息。利用这些结构信息，序列标注模型可以快速有效的预知文本序列中每个词语对应的标签(比如，人名，地名等)。

现有的序列标注模型，包括多层感知器(Multilayer Perceptron，MLP)、自动编码器(Auto Encoder，AE)、卷积神经网络(Convolutional Neural Networks，CNN)、循环神经网络(Recurrent Neural Networks，RNN)等。上述序列标注模型一定程度上代替了人工特征抽取，但是标注准确率仍然较低。

因此，针对现有序列标注模型的标注准确率较低的问题，有必要在现有序列标注模型进行改进的基础上，提出一种英文文本序列标注方法，以提升标注准确率。

发明内容

有鉴于此，本发明实施例的目的是提供一种基于神经网络的英文文本序列标注方法、系统、计算机设备及计算机可读存储介质，可以有效提升标注准确率。

为实现上述目的，本发明实施例提供了一种基于神经网络的英文文本序列标注方法，所述方法包括：

提取目标句子的单词信息、字符信息和形态特征，并根据所述单词信息、字符信息和形态特征输入到第一BI-LSTM层和第一dropout层以得到第一输出矩阵

通过所述字符嵌入层获取目标句子的字符矩阵I_(k×m)×1，通过第二词嵌入层将字符矩阵I_(k×m)×1转化为k×m×d维的矩阵，并将k×m×d维的矩阵输入到第二BI-LSTM层中，通过所述第二BI-LSTM层得到第四矩阵并将第四矩阵输入到第二dropout层以得到第二输出矩阵

提取目标句子的语义信息和基于卷积层提取的二元信息，并将所述语义信息输入到第三BI-LSTM层和第三dropout层以得到第三输出矩阵以及将二元信息输入到第四Bi-LSTM层和第四dropout层以得到第四输出矩阵

将第一输出矩阵第二输出矩阵第三输出矩阵和第四输出矩阵进行线性相加，得到线性相加结果ω_i为对应的权重系数；

将线性相加结果O输入第二LSTM层在每个时间步记录输出以得到第五输出矩阵i为各个单词在目标句子中序号，z为输入第二LSTM层的输入维度；

将第五输出矩阵作为条件随机场CRF的输入序列，以通过CRF输出标签序列Y＝(y₁,y₂,...,y_m)。