[发明专利]一种基于混合知识图的注意力引导增强的常识推理框架

权利要求书

1.一种基于混合知识图的注意力引导增强的常识推理框架，其特征在于，所述框架包括：预训练文本编码器、检索常识知识图谱模块、知识交互引导模块、常识知识聚合与传播模块和回答与解释模块；其中：

所述预训练文本编码器对一组问题q-选项c_i对进行编码表示：

所述检索常识知识图谱模块根据问题和选项中出现的实体词语进行推理子图筛选，并将问题-选项对的编码表示作为子图的全局节点；

所述知识交互引导模块是通过将各推理子图中的问题-选项节点给提取出来，让多个推理子图的全局节点进行信息的相互传递，并获得新的问题-选项节点的表示；

所述常识知识聚合与传播模块是对知识图谱进行边缘特征的加权聚合和利用通过图神经网络对节点间进行信息传递的过程；

所述知识交互引导模块和所述基于混合注意力机制的常识知识聚合与传播模块通过多层的全局知识交互引导和局部知识聚合和传播过程迭代，扩大了每个子图节点的信息接收域；

所述回答与解释模块是结合初始的问题-选项表示、最后一层的子图全局节点表示和子图的全局池化表示，并利用SoftMax分类器进行多个选项的置信分数预测。

2.根据权利要求1所述的一种基于混合知识图的注意力引导增强的常识推理框架，其特征在于：所述知识交互引导模块获得新的问题-选项节点的表示过程；

将各推理子图中的节点抽取出来堆叠组成嵌入矩阵C，

通过三个线性层将整体的问题-选项嵌入映C射成Q、K、V三个矩阵，即：

Q＝C^lW^Q,K＝C^lW^K,V＝C^lW^V

其中：C^l表示第l层中堆叠的问题-选项嵌入整体表示；W^Q,W^K,W^V,W是线性映射层；

通过多头注意力机制获得新的各推理子图全局节点的表示，同时根据其中的注意力矩阵获取到各选项间的注意力系数；即：

α_ij＝MHA(Q^T,K^T,V^T)

其中：MHA是多头注意力机制；

通过如下公式对各推理子图全局节点进行信息流控制，门控系数η来控制原始信息流的比例，注意力权重则用于更新交互后的节点特征表示；

η＝σ(C^lW+b)

其中：⊙表示哈达玛(Hadamard)乘积；σ表示sigmoid激活函数。

3.根据权利要求1所述的一种基于混合知识图的注意力引导增强的常识推理框架，其特征在于：所述常识知识聚合和传播模块通过图神经网络对推理知识图谱进行关键边缘特征和节点特征加权聚合的过程；

利用推理子图中全局的问题-选项节点去计算所有边的注意力权重；

通过推理子图中边的类型和其两端节点的类型获得每条边的嵌入表示；

融合注意力权重加权的边特征和源节点的特征来更新源节点的特征表示；

r_st＝f_r(e_st，u_s，u_t)

其中，e_st,u_s,u_t分别是表示边和节点类型的独热编码，r_st表示节点s和t之间的边缘特征，f_*是两层的感知机，l是图神经网络的层数，是节点i和j边缘特征与全局节点特征聚合的表示，是不同边之间的相关性系数，是节点t传入的邻居节点，是节点s初始的嵌入编码，是融合了加权边特征的新的节点表示；

利用多头注意力机制更新推理知识图谱内部的节点信息获得到新的节点嵌入表示：

其中：||表示拼接，表示归一化的注意力权重系数，其中加入了节点的度特征d_s，这样最后返回的节点特征则是包含了重要的节点和边的特征信息。