[发明专利]英文文本序列标注方法、系统及计算机设备

权利要求书

1.一种基于神经网络的英文文本序列标注方法，其特征在于，所述方法包括：

提取目标句子的单词信息、字符信息和形态特征，并根据所述单词信息、字符信息和形态特征输入到第一BI-LSTM层和第一dropout层以得到第一输出矩阵

通过字符嵌入层获取目标句子的字符矩阵I_(k×m)×1，通过第二词嵌入层将字符矩阵I_(k×m)×1转化为k×m×d维的矩阵，并将k×m×d维的矩阵输入到第二BI-LSTM层中，通过所述第二BI-LSTM层得到第四矩阵并将第四矩阵输入到第二dropout层以得到第二输出矩阵

提取目标句子的语义信息和基于卷积层提取的二元信息，并将所述语义信息输入到第三BI-LSTM层和第三dropout层以得到第三输出矩阵以及将二元信息输入到第四BI-LSTM层和第四dropout层以得到第四输出矩阵

将第一输出矩阵第二输出矩阵第三输出矩阵和第四输出矩阵进行线性相加，得到线性相加结果ω_i为对应的权重系数；

将线性相加结果O输入第二LSTM层在每个时间步记录输出以得到第五输出矩阵i为各个单词在目标句子中序号，z为输入第二LSTM层的输入维度；

将第五输出矩阵作为条件随机场CRF的输入序列，以通过CRF输出标签序列Y＝(y₁,y₂,...,y_m)；

其中，提取目标句子的单词信息、字符信息和形态特征，并根据所述单词信息、字符信息和形态特征输入到第一BI-LSTM层和第一dropout层以得到第一输出矩阵包括：

通过第一词嵌入层获取目标句子的第一矩阵W_m×d，m为所述目标句子中的单词数量，d为所述目标句子中的每个单词的词向量维数；

通过字符嵌入层和第一LSTM层获取目标句子的第二矩阵C_m×n，n为每个单词中字符的字符向量维数；

获取目标句子中各个单词的形态特征，为每个单词建立一个独热向量SUV_1×10，以得到所述目标句子的第三矩阵SUV_m×10；

拼接第一矩阵W_m×d、第二矩阵C_m×n和第三矩阵SUV_m×10，将拼接后的拼接向量矩阵[W_m×d，C_m×n，SUV_m×10]输入到第一BI-LSTM层和第一dropout层以得到第一输出矩阵

其中，通过字符嵌入层和第一LSTM层获取目标句子的第二矩阵C_m×n，包括：

将目标句子中的每个单词分割为k维列向量C_k×1，并将C_k×1输入到随机初始化得到的字符嵌入层中，通过所述字符嵌入层输出k×n的矩阵，其中，k为单词的长度；

将k×n的矩阵输入到第一LSTM层中，将所述第一LSTM层中的最后隐状态C_1×n作为对应单词的向量表示，以将包含m个单词的目标句子转换为第二矩阵C_m×n；

其中，提取目标句子的语义信息和基于卷积层提取的二元信息，并将所述语义信息输入到第三BI-LSTM层和第三dropout层以得到第三输出矩阵以及将二元信息输入到第四BI-LSTM层和第四dropout层以得到第四输出矩阵包括：

通过语义嵌入层获取目标句子的各个单词进行标注，将标注后的各个单词输入到第三BI-LSTM层中以得到第五矩阵S_m×d，并将第五矩阵S_m×d输入到第三dropout层以得到第三输出矩阵

通过第三词嵌入层和卷积层获取目标句子的第六矩阵B_m×d，并将第六矩阵B_m×d输入到第四BI-LSTM层和第四dropout层以得到第四输出矩阵