[发明专利]一种基于知识驱动的多路筛选融合对话生成方法

权利要求书

1.一种基于知识驱动的多路筛选融合对话生成方法，其特征在于，所述生成方法包括以下步骤：

S10，对当前对话的上下文进行包括分词、词嵌入在内的预处理，将预处理结果送入由双向GRU组成的话语编码器中对上下文信息进行编码，获取相应的语义向量{h_i}；i＝1,2,…,n；

S20，基于多路知识筛选机制，通过计算步骤S10得到的语义向量信息与知识集合{k_i}中每条知识的相似度，从知识集合中选择与当前对话最相关的知识信息k_a和k_b，融合得到筛选后的知识信息k′_i；

S30，基于双向GRU神经网络构建知识融合模块，采用知识融合模块将步骤S20得到的知识信息k′_i与步骤S10中获取的上下文的语义信息{h_i}融合，借助注意力机制计算得到中间语义向量c_t；

S40，将步骤S30得到的中间语义向量c_t和步骤S20中得到的知识信息k′_i一同送入解码器中进行响应的生成。

2.根据权利要求1所述的基于知识驱动的多路筛选融合对话生成方法，其特征在于，步骤S10中，获取相应的语义向量{h_i}的过程包括以下步骤：

S11，利用NLTK工具将包含上下文信息的相关数据进行分词后，借助Glove转换成固定维度的词向量；

S12，基于双向GRU单元构成源句子编码器，将步骤S11的转换结果输送到源句子编码器中，将对话上下文编码成固定维度向量，编码的每一步输出该时间步的隐藏状态，最后一时刻时间步用以表示该上下文的语义信息，将输入上下文编码成一固定长度的语义向量，得到上下文的隐层状态h＝{h₁,h₂,…,h_n}。

3.根据权利要求1所述的基于知识驱动的多路筛选融合对话生成方法，其特征在于，步骤S20中，从知识集合中选择与当前对话最相关的知识信息k_a和k_b的过程包括以下步骤：

S21，利用余弦相似度，获取上下文信息对应的语义向量与知识集合中每条知识的相似度得分，获取得分最高的知识信息记为k_a；

S22，根据后验知识信息获取后验知识分布，利用后验知识分布与先验知识分布进行知识的筛选；采用KL散度拉近先验知识分布与后验分布之间的距离，使先验分布不断逼近后验分布，借助先验分布获取相关的知识，将该知识记为k_b；其中，根据如下公式获取先验知识分布和后验知识分布：

其中，k_i为知识集合中的每条知识，x为输入的上下文信息，y为数据集中真实响应信息，k_j代表知识集合中的全部知识，j为知识的序列号，N代表知识集合中知识的条数。

4.根据权利要求1所述的基于知识驱动的多路筛选融合对话生成方法，其特征在于，步骤S30中，计算得到中间语义向量c_t的过程包括以下步骤：

S31，根据每条知识信息的相关系数，加权求和获取最终的知识信息表达形式；

S32，采用双向GRU神经网络对步骤S31获取的知识信息和步骤S10获取的上下文的语义信息{h_i}共同进行编码，将筛选后的知识表示k′_i作为双向GRU神经网络的初始状态，同时将每一时刻的隐藏状态h_i作为双向GRU神经网络的每一步输入，得到双向GRU的最终状态作为中间语义向量c_t。

5.根据权利要求1所述的基于知识驱动的多路筛选融合对话生成方法，其特征在于，步骤S40中，将步骤S30得到的中间语义向量c_t和步骤S20中得到的知识信息k′_i一同送入解码器中进行响应的生成的过程包括以下步骤：

基于知识语义表达k′_i和中间语义向量c_t，将每一时间步的解码状态通过全连接网络映射到词表大小的维度，并通过softmax函数计算出候选回复词的概率分布，选择概率最大的词作为当前时间步的回复y_t，将所有时间步的预测回复联合起来得到最终的预测回复序列Y。