[发明专利]一种面向智能问答系统的自然语言推理方法

说明书

本发明公开了一种面向智能问答系统的自然语言推理方法，包括如下步骤：首先需要将两个句子转换成词向量的形式，利用正向时序运算以及反向时序运算提取句子的局部特征以及全局特征，再对得到的结果同时进行最大值选择以及多维加权平均的运算，其中最大值选择的运算用于提取句子中最重要的信息，而多维加权平均能够对句子中的次重要特征进行提取，对于结果通过句意融合，最后，通过句意融合的结果得到句子间关系的可能性，其中可能性最高的关系将作为最后的结果。本发明能够充分提取问答系统中用户前后输入的句子中的信息，可以在自然语言推理的公开数据上都取得优异的效果，在对准确率、实时性要求较高的多轮问答系统中具有良好的实用性。

技术领域

本发明涉及自然语言处理与人工智能技术领域，具体涉及一种面向智能问答系统的自然语言推理方法。

背景技术

面向客户服务的问答系统是一个多轮交互的过程，用户的信息将不会一次性全部给出，而是需要不断地对系统进行输入，同时系统不断理解问题。在这个过程中，用户的前后多轮的描述可能存在不一致的状况，而利用自然语言推理方法就可以使得问答系统能够对该情况进行判断，从而进行进一步的处理。

传统的自然语言推理方法需要通过人工提取特征的方法来表示句子。比如句法依存树、语法树等来计算二者的编辑距离。这些通过人工提取特征的方法虽然每个特征都具有很好的解释性，但是通过人工提取特征需要花费大量的人工成本，也会需要使用额外的资源。而且，这样的方法与使用深度学习模型的方法相比，在性能上差距较大。

随着深度学习在自然语言处理领域的发展，越来越多的使用深度学习的自然语言推理方法被提出。在这些方法中，需要将句子转换成词向量的形式，并通过深度学习模型进行一些运算，最后判断出句子之间的关系。其中，使用长短记忆网络表示句子的方法得到了广泛应用。而在池化方法方面，作为一种常见的池化方法，最大池化只从整个句子中的每个维度提取最能体现句子特征的部分，同时会直接丢弃那些次重要的特征。

发明内容

发明目的：为了克服现有技术中存在的自然语言推理方法准确率不够、效率不足的问题，提供一种面向智能问答系统的自然语言推理方法，其能够充分提取了问答系统中用户前后输入的句子中的信息，可以在自然语言推理的公开数据上都取得优异的效果，在对准确率、实时性要求较高的多轮问答系统中具有良好的实用性。

技术方案：为实现上述目的，本发明提供一种面向智能问答系统的自然语言推理方法，包括如下步骤：

S1：将用户前后输入的两个句子去除标点符号，将句子中的每一个词转换成预训练的词向量，根据词向量将每个句子都表示为矩阵X^inf；

S2：将矩阵X^inf分别通过正向时序运算和反向时序运算，并将两次运算的结果进行拼接，得到矩阵H^enc；

S3：对矩阵H^enc中的所有列向量只保留最大值，得到向量v^mp，同时将矩阵H^enc进行多维加权平均得到向量v^mda，将向量v^mp和向量v^mda进行拼接得到向量v；

S4：根据向量v，获得需要判断关系的两个句子所对应的向量v₁和向量v₂，将向量v₁和向量v₂进行句意融合，得到向量m；

S5：将向量m通过多次矩阵运算转化为一个多维向量，此多维向量中每个元素分别代表句子间对应关系的概率，选择最大的元素所对应的关系作为最后的结果。

进一步的，所述步骤S2中的正向时序运算是对矩阵的每一列向量按照从左到右的顺序依次进行如下计算：