[发明专利]一种融合知识的对话生成方法

权利要求书

1.一种融合知识的对话生成方法，其特征在于：包括如下步骤：

S1、构建知识图谱；

S2、构建对话模型，所述对话模型由编码器和解码器组成，具体为步骤为：

S21、词编码：所述词编码是利用google开源的Bert模型提取对话的词向量表示，即词编码X_Bert；

S22、知识编码：所述知识编码是利用TransE算法获取实体的知识向量表示，即知识编码X_transe；

S23、双跳实体编码：所述双跳实体编码是使用GAT图注意力机制对双跳实体进行编码，得到双跳实体编码X_2hop；

所述双跳实体编码是对于节点A_i，逐个计算它的相邻节点集合N(A_i)＝{B₁,B₂,B₃,…B_n}的单跳实体编码后，再 通过同样的方法迭代计算A_i的实体编码，具体步骤如下：

S231、计算B₁与周围实体N(B₁)＝{C₁₁,C₁₂,…C_1n}的注意力系数α_j：

其中，h_B1和h_j表示节点B₁和节点j的词表示即TransE知识编码，W为共享的可学习参数，将(Wh_B1||Wh_j)的结果映射到一个实数e_b1j上，计算出相似系数后，利用softmax公式得到各个节点的加权系数，即注意力系数α_j；

S232、将B₁周围的节点的词表示加权求和作为节点B₁新的表示，权重为上述得出的注意力系数α_j，

h'_B1＝σ(∑α_B1jUh_j),j∈N(B₁)；

其中，h'_B1为节点B₁新的词表示，σ为激活函数，α_B1j为B₁和C_1j的注意力系数，U为共享的可学习参数；

S233、通过与上述步骤S231和步骤S232同样的方法，依次计算出B₁,B₂,B₃,…B_n的单跳节点词表示，最后迭代计算出A_i的双跳实体编码；

S24、加权合并：将得到的所述词编码X_Bert、所述知识编码X_transe和所述双跳实体编码X_2hop的结果加权相加后，经过一层前馈神经网络后作为解码器的输入；所述加权相加的公式为：α*X_bert+β*X_transe+γ*X_2hop，其中α、β、γ分别表示X_bert、X_transe、X_2hop的加权系数，α、β、γ的取值范围均为0～1；

S25、解码：所述解码器的主体架构采用循环神经网络RNN，并在除首个RNN神经元以外的每个RNN神经元上都加入上一个词的图嵌入X_transe_decoder，即单跳词编码，将X_transe_decoder和RNN的隐变量h_i相加后输入到下一个神经元中进行处理。

2.如权利要求1所述的一种融合知识的对话生成方法，其特征在于：所述知识图谱采用开源的知识图谱或基于业务场景构建的领域知识图谱。

3.如权利要求2所述的一种融合知识的对话生成方法，其特征在于：所述开源的知识图谱包括OpenCyc、WordNet、Freebase、Dbpedia、ConceptNet中的一种或多种。