[发明专利]一种基于回复增强的隐式个性化对话生成方法

权利要求书

1.一种基于回复增强的隐式个性化对话生成方法，其特征在于：方法利用给定的用户输入，生成个性化的对话回复，具体地，首先利用输入给定用户的历史回复数据作为查询，利用海量的开源训练数据作为文档，从训练数据中检索相关回复作为该用户的候选集；然后根据人设一致性判别器，判断候选集中的回复是否符合用户的个性化设定，计算候选集回复和用户真实回复的人设相似性得分，选择得分较高的回复作为该用户的个性化相似回复，所述人设一致性判别器包括基于BERT模型的回复层次人设一致性判别器，和基于HRED模型的上下文层次人设一致性判别器，其中所述回复层次人设一致性判别器仅考虑两个回复之间的人设一致性，所述上下文层次人设一致性判别器的还考虑了上下文的一致性；之后基于多任务学习的框架，通过两个编码器-解码器模型，来分别利用该用户的真实历史回复数据和增强的个性化相似数据进行训练，所述两个解码器共享参数，使得模型可以更充分地学到该用户的人设信息和个性化表达方式，得到符合用户个性化设定的回复生成结果；

在得到回复生成结果的基础上，提出度量个性化对话系统生成质量的方法，即在模型生成回复之后，将真实回复和生成回复，作为人设一致性判别器的输入，进而得到生成数据的人设一致性评分，用于在句子层面评价模型生成结果和用户个性化设定信息的一致性情况，最终输出评价结果和回复结果。

2.如权利要求1所述的一种基于回复增强的隐式个性化对话生成方法，其特征在于：所述回复层次的一致性判别器基于回复数据对，计算两条回复文本的人设相似性，采用预测两条回复是否来自于同一个用户的方式，给定两个回复response₁和response₂作为输入，计算这两个回复来自于同一用户的概率P(user₁＝user₂)作为人设相似性的度量，其中，user₁是response₁的说话人，user₂是response₂的说话人，所述回复层次的人设一致性判别器基于BERT模型设计，两个回复以[SEP]分隔进行输入，然后使用[CLS]所对应的最终隐藏向量R作为最终的文本表示，并据此计算两条回复来自于同一用户的概率：

P(user₁＝user₂)＝softmax(W_p·R+b_p)

对回复层次的人设一致性判别器而言，其训练数据的构建引入了对比学习的思想，即在训练阶段，随机选取来自于同一用户的回复对作为正例，然后随机选取来自于不同用户的回复对作为负例，使用标签1表示两条回复来自于同一用户，标签0表示两条回复来自于不同用户；在推断阶段，基于已训练好的模型，输入的两条回复中一条回复来自于用户的真实历史回复，另一条回复来自于候选集的回复数据，然后计算P(user₁＝user₂)作为相似性得分，度量两者之间的人设相似性，如果相似性得分大于预定义的阈值，则认为该候选集回复反映了相似的个性化设定信息，进而根据相似性得分选择人设信息较为相似的回复，看作该用户的个性化相似回复，来做数据增强。