[发明专利]一种融合多粒度信息的文本蕴含关系识别方法

权利要求书

1.一种融合多粒度信息的文本蕴含关系识别方法，其特征在于，包括以下步骤：

S1：获取已标注好的英文文本语料，在输入层输入训练样本集；

S2：在字符向量层，对S1输入的文本P和Q，分别建立以字符粒度为输入单位的卷积神经网络CNN模型，对句子中的每个单词提取字符特征得到各个新的词向量；

S3：在词向量融合层，建立Highway网络层，传入S2中字符级别卷积神经网络CNN模型输出的单词向量，输出基于字符特征的词向量序列，然后将它们逐个与原有的预训练词向量结合，得到融合了字词两个粒度信息的词向量；

S4：在句子建模层，建立双向长短时记忆网络即BiLSTM，将S3输出的融合字词信息的词向量序列依次通过记忆单元，得到每一时刻输出的上下文向量；

S5：在交互层，融合注意力机制，分别对S4中蕴含文本对P和Q每一时刻的上下文向量运用多粒度，跨层次的交互策略，得到不同策略下P和Q的文本表示向量，将其依次连接得到P和Q文本对的联合向量表达；

S6：在分类层，建立多层神经网络MLP层和Softmax分类器，传入S5中所得的文本对联合向量，输出文本蕴含关系识别的分类结果；

S7：利用训练样本集，通过反向传播不断最小化目标函数来训练模型，使其学习出S1-S6中构建的各层网络参数，生成预测过程的模型；

S8：将测试样本集语料放入S7中训练好的融合多粒度信息模型中，最终获取测试样本的文本蕴含识别分类结果；

所述步骤S1中的训练样本为：

收集用于文本蕴含识别任务的已标注好的语料，将其中80％作为训练样本集，剩余20％作为测试样本集；语料集中的数据样本由三个部分组成：其中P⁽ⁿ⁾表示第n对样本中的前提文本，Q⁽ⁿ⁾表示第n对样本中的假设文本，表示P和Q之间的关系标签，C为输出类别的个数，y⁽ⁿ⁾是C维的0-1向量；关系标签包含蕴含、矛盾和中性即C＝3；P和Q均为英文句子文本，第n对前提文本和假设文本可分别表示为由单词构成的序列：和其中句子P的长度为P中单词个数l_a，句子Q的长度为Q中单词个数l_b；

所述步骤S2的具体过程是：

S21：构建字符表并进行数据预处理和字符表示：将S1的文本P和Q中的单词转换为小写字母，再对每个单词中所包含的字符根据字符表进行索引与标记，未出现在字符集合中的其他特殊符号将以零向量作为初始化；分别将句子P和Q中的每个单词表示为由字符向量拼接而成的单词矩阵；

S22：初始化卷积神经网络CNN模型及其参数，所述参数包括网络中连接的权重和偏置，并将S21中句子P和Q由字符向量组成的单词序列作为卷积神经网络的输入，该网络包括字符特征卷积层，字符特征池化层和字符特征连接层；

S23：所述字符特征卷积层，对S22中得到的每个单词矩阵设置不同大小的卷积核进行一维卷积操作以便捕捉不同相邻字符的局部组合特征；

S24：所述字符特征池化层，对S23中各个单词经不同卷积核H得到的特征映射f^k分别进行最大池化，各自独立进行局部特征选择；

S25：所述字符特征连接层，将S24中每个单词最大池化后的所有特征值进行连接得到各个单词的向量表示y^k，将句子所包含的所有单词的向量表示横向拼接得到句子的向量表示，如句长为la的句子P可表示为序列[y¹，y²，...，y^la]。