[发明专利]基于依赖关系图的关系推理方法及系统

说明书

本发明提供了一种基于依赖关系图的关系推理方法及系统，利用词义特征对给定句对进行词语划分和词语特征构造；通过依赖提取器获得从词语划分后的文本中提取出词语之间的依赖关系树；将依赖关系作为词语特征更新的依据，结合深度学习网络，对给定句对中词语特征进行学习和更新；将的给定句对获得的多个更新后的词语特征作为局部特征，进行特征的融合获得全局特征；将全局特征作为句义特征，进行两句间的交互，输入到输出层中获得输出，将输出与真实标签进行比较，进行学习模型的损失函数的计算；根据学习模型的损失函数计算结果，对学习模型进行修正，确定学习模型对应的目标参数。有效提升句法依赖树在自然语言推理上的表现。

技术领域

本发明涉及计算机领域，具体地，涉及一种基于依赖关系图的关系推理方法及系统。

背景技术

随着深度学习模型的不断发展，自然语言推理任务的主要趋势成为了使用更复杂的网络模型获取句子的语义信息，并以此来确定它们之间的关系。但在传统的网络中，位置信息来源于长短期网络对结构的直接抓取，其只能获取到空间上的位置信息，无法捕获深层的句义上的相对位置信息。而直接在句法依赖树上进行操作的深度学习网络通常基于复杂的树神经网络，其训练过程缓慢，且通常无法结合子节点以外的信息。

因此，现有专利文献CN109902301A的中国专利，公开了基于深度神经网络的关系推理方法，这种方法中使用的基于语法依赖树的特征，只利用了其中的路径上的依赖特征，没有有效的结合语法依赖树中的依赖关系类型，提取特征不充分，不具体。虽然使用了LSTM和CNN来捕捉路径上特征，但是无法捕获其中的一部分路径外信息，不够准确。

发明内容

针对现有技术中的缺陷，本发明的目的是提供一种基于依赖关系图的关系推理方法及系统。

根据本发明提供的一种基于依赖关系图的关系推理方法，包括：

划分构造步骤：获取给定句对，利用词义特征对所述给定句对进行词语划分和词语特征构造；

依赖提取步骤：通过依赖提取器获得从词语划分后的文本中提取出词语之间的依赖关系树；

特征更新步骤：将所述依赖关系树中的依赖关系作为词语特征更新的依据，结合深度学习网络，对所述给定句对中词语特征进行学习和更新；

特征融合步骤：将所述的给定句对获得的多个更新后的词语特征作为局部特征，进行特征的融合，获得全局特征；

损失函数计算步骤：将所述全局特征作为句义特征，进行句对间的交互，输入到深度学习网络的输出层中获得输出，将输出与真实标签进行比较，进行学习模型的损失函数的计算；

学习模型修正步骤：根据所述学习模型的损失函数计算结果，对所述学习模型进行修正，确定所述学习模型对应的目标参数。

优选地，所述特征更新步骤包括：

对依赖关系树中的每个三元组进行编码，所述三元组包括头词语、尾词语和依赖关系；

根据依赖关系，使用依赖关系矩阵处理头词语和尾词语，得到关系三元组；

将处理后得到的关系三元组聚合回头词语和尾词语中。

优选地，所述关系三元组中的头词语对应依赖关系树中的头节点，尾词语对应依赖关系树中的尾节点，依赖关系对应依赖关系树中的不同关系，使用一个序号标示，序号为对应关系在关系字典中的序号。

优选地，使用全连接层线性映射编码头词语和尾词语的顺序。

优选地，通过消息传递的过程，来完成关系三元组的聚合过程：

xi＝γ(xi,Σl)

其中xi表示第i个节点，γ表示的是聚合操作，Σ表示的是聚合与i节点有关的所有三元组的操作，l是三元组的信息。