[发明专利]一种融合多粒度信息的文本蕴含关系识别方法

摘要

本发明提供一种融合多粒度信息的文本蕴含关系识别方法，提出融合字与词、词与词、词与句之间多粒度信息融合与交互的建模方法。本发明首先在字符向量层使用卷积神经网络和Highway网络层建立基于字符级别的词向量模型，并与GloVe预训练的词向量拼接；之后句子建模层将融合字词粒度的词向量使用双向长短时记忆网络进行建模，再经过句子匹配层对文本对进行融合注意力机制的交互与匹配，最后通过整合分类层求得类别；模型建立好后将模型进行训练和测试最终获取测试样本的文本蕴含识别分类结果。这种融合了字、词、句多粒度信息的层次化组合结构方法融合了模型中浅层的特征定位和深层的特征学习等优势，从而进一步提升文本蕴含关系识别的准确性。

主权项

1.一种融合多粒度信息的文本蕴含关系识别方法，其特征在于，包括以下步骤：S1：获取已标注好的英文文本语料，在输入层输入训练样本集；S2：在字符向量层，对S1输入的文本P和Q，分别建立以字符粒度为输入单位的卷积神经网络CNN模型，对句子中的每个单词提取字符特征得到各个新的词向量；S3：在词向量融合层，建立Highway网络层，传入S2中字符级别卷积神经网络CNN模型输出的单词向量，输出基于字符特征的词向量序列，然后将它们逐个与原有的预训练词向量结合，得到融合了字词两个粒度信息的词向量；S4：在句子建模层，建立双向长短时记忆网络即BiLSTM，将S3输出的融合字词信息的词向量序列依次通过记忆单元，得到每一时刻输出的上下文向量；S5：在交互层，融合注意力机制，分别对S4中蕴含文本对P和Q每一时刻的上下文向量运用多粒度，跨层次的交互策略，得到不同策略下P和Q的文本表示向量，将其依次连接得到P和Q文本对的联合向量表达；S6：在分类层，建立多层神经网络MLP层和Softmax分类器，传入S5中所得的文本对联合向量，输出文本蕴含关系识别的分类结果；S7：利用训练样本集，通过反向传播不断最小化目标函数来训练模型，使其学习出S1‑S6中构建的各层网络参数，生成预测过程的模型；S8：将测试样本集语料放入S7中训练好的融合多粒度信息模型中，最终获取测试样本的文本蕴含识别分类结果。