[发明专利]一种基于长短时记忆信息的个性化对话生成方法和系统

权利要求书

1.一种基于长短时记忆信息的个性化对话生成方法，其特征在于，包括以下步骤：

S1将输入文本和用户对话历史的文本表示为句子向量；

S2将所述输入文本进行编码获得感知记忆信息；

S3在所述用户对话历史的文本中筛选出与所述输入文本最相似的历史作为当前输入下用户的长时记忆，将所述长时记忆进行编码得到长时记忆信息；

S4将与所述输入文本时间上最为接近的所述用户对话历史进行编码得到用户的短时记忆信息；

S5将所述感知记忆信息、长时记忆信息和短时记忆信息在每个生成时刻更新并与之前时刻的输出信息一同进行解码，从而生成具有用户个性的对话。

2.如权利要求1所述的基于长短时记忆信息的个性化对话生成方法，其特征在于，所述步骤S2中获得感知记忆信息的方法为：所述输入文本进入Seq2Seq模型进行编码得到用户对所述输入文本的感知信息，并将所述感知信息带入注意力机制，将其合并为解码过程生成回复的不同时刻的感知记忆信息。

3.如权利要求2所述的基于长短时记忆信息的个性化对话生成方法，其特征在于，所述感知记忆编码模块的公式为：

其中，表示在编码器的不同时刻i输入信息的中间隐含状态向量，n为输入的长度；x_i为在时刻i输入的词；φ(·)表示获取单词词向量的函数；表示在解码j时刻模型关于输入的感知记忆信息；s_j表示解码j时刻解码器的隐含状态，GRU(·)为门控循环单元函数，Attn(·)为注意力机制函数。

4.如权利要求1所述的基于长短时记忆信息的个性化对话生成方法，其特征在于，所述步骤S3中用户对话历史的文本与输入文本的相似性的判断方法为：将所述输入文本映射到与所述用户对话历史的文本相同的向量空间中，以单词的逆文档频率来衡量输入文本与用户对话历史的文本的相似性，所述单词的逆文档频率idf的计算公式为：

其中，a、b、c分别表示词表中单词的序号，文档集合中文档的序号和句子w中单词的序号；D＝{d₁，d₂，...}为整个文档集合；{b：w_a∈d_b}为包含单词w_a的文档d_b的集合；∈(·)表示计算句子w的句子向量的函数；φ(·)表示获取单词词向量的函数。

5.如权利要求4所述的基于长短时记忆信息的个性化对话生成方法，其特征在于，所述步骤S3中得到长时记忆信息的方法为：将所述输入文本映射到与所述用户对话历史的文本相同的向量空间中，分别计算所述输入文本与用户的历史回复以及与所述历史回复对应的其他用户的输入的句子的相似度，其计算公式为：

其中，p_l和r_l分别表示用户对话历史数据的其他用户输入历史和用户回复历史，L为对话历史的数目；表示输入文本X与其他用户输入历史p_l的相似度；表示输入文本X与该用户回复历史r_l的相似度；sc_l表示输入文本与第l条用户对话历史整体的相似度，通过平衡因子α来调整和的权重；

得到输入文本X与用户对话历史相似度分布sc＝{sc₁，sc₂，...，sc_L}后，取相似度最高的前K个对话历史，保留其时间顺序，将当前用户的回复历史R_long＝{r₁，r₂，...，r_K}作为长时记忆信息。