[发明专利]基于知识图谱的智能对话推荐方法及装置

权利要求书

1.一种基于知识图谱的智能对话推荐方法，其特征在于，包括：

获取用户端的语音信息；

将所述语音信息输入到训练好的语言模型中，得到所述语音信息对应的自然语言回复，所述训练好的语言模型是由样本对话历史内容和样本意图推理树，对语言模型进行训练得到的；

其中，所述样本意图推理树是根据预设对话意图、样本对话历史表示和样本用户画像，基于知识图谱进行推理得到的；所述样本对话历史表示是通过对所述样本对话历史内容进行编码得到的；所述样本用户画像是通过对所述样本对话历史内容中提及到的知识图谱的节点进行编码，基于自注意力机制得到的。

2.根据权利要求1所述的基于知识图谱的智能对话推荐方法，其特征在于，所述训练好的语言模型通过以下步骤得到：

根据样本问法和所述样本问法对应的样本回复，构建每轮次对话的样本历史对话内容，所述样本问法为用户端样本对话内容，所述样本回复为系统端样本对话内容；

基于预训练的BERT模型，对所述样本历史对话内容进行编码，得到样本对话历史表示；

基于预训练的R-GCN模型，对知识图谱中每个节点进行编码，并根据所述样本对话历史内容中提及到的知识图谱的节点，将编码后的节点构建得到的目标节点矩阵，通过自注意力机制生成对应的样本用户画像；

通过所述样本对话历史表示和所述样本用户画像，基于知识图谱，生成预设对话意图对应的样本意图推理树；

根据所述样本意图推理树和所述样本历史对话内容，构建训练样本集，并将所述训练样本集输入到预训练的GPT-2模型进行微调，以根据训练好的GPT-2模型，得到训练好的语言模型，所述训练好的语言模型包括所述预训练的BERT模型、所述预训练的R-GCN模型和所述训练好的GPT-2模型。

3.根据权利要求2所述的基于知识图谱的智能对话推荐方法，其特征在于，所述基于预训练的BERT模型，对所述样本历史对话内容进行编码，得到样本对话历史表示，包括：

基于预训练的BERT模型，对每轮次对话的样本历史对话内容进行编码，得到每轮次对话的对话表示：

BERT([y_t-1；x_t])；

其中，x_t表示第t轮次对话中的用户端样本对话内容，y_t-1表示第t-1轮次对话中的系统端样本对话内容；所述预训练的BERT模型的输出层连接一个LSTM层；

通过所述LSTM层，根据对话的时序关系，对所有轮次对话的对话表示按照时序关系进行编码，得到样本对话历史表示u_t；

u_t＝LSTM(u_t-1,BERT([y_t-1；x_t]))。

4.根据权利要求2所述的基于知识图谱的智能对话推荐方法，其特征在于，所述基于预训练的R-GCN模型，对知识图谱中每个节点进行编码，并根据所述样本对话历史内容中提及到的知识图谱的节点，将编码后的节点构建得到的目标节点矩阵，通过自注意力机制生成对应的样本用户画像，包括：

基于预训练的R-GCN模型，对知识图谱中每个节点进行编码，得到每个节点在所述预训练的R-GCN模型中每一层的表示：

其中，表示与节点e有关系r的节点集合；与为训练参数；R-GCN模型第L层的节点表示为h_e∈R^d；e′表示与节点e有关系r的节点；

根据所述样本对话历史内容中提及到的知识图谱的节点，将对应的编码后的节点构成目标节点矩阵M_t：

基于自注意力机制，根据所述目标节点矩阵，生成对应的样本用户画像p_t：

p_t＝α_t*M_t；

α_t＝softmax(w_p·tanh(W_pM_t))；

其中，α_t表示第t轮次对话的权重向量，w_p与W_p表示训练参数。