[发明专利]一种回复对话评分模型训练方法、对话回复方法及其装置在审
申请号: | 202011224129.2 | 申请日: | 2020-11-05 |
公开(公告)号: | CN112214592A | 公开(公告)日: | 2021-01-12 |
发明(设计)人: | 王栋;张伟男;王士进;刘挺;刘权;陈志刚;胡国平 | 申请(专利权)人: | 中科讯飞互联(北京)信息科技有限公司 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F40/35 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 冯柳伟 |
地址: | 100094 北京市海淀区西*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 回复 对话 评分 模型 训练 方法 及其 装置 | ||
1.一种回复对话评分模型训练方法,其特征在于,所述方法包括:
获取对话训练样本;其中,所述对话训练样本包括M+1轮样本对话内容;M为正整数;
根据所述对话训练样本,生成模型训练数据和对话重要度;其中,所述对话重要度用于描述所述对话训练样本中样本对话内容的信息重要程度;
根据所述模型训练数据和所述对话重要度,对回复对话评分模型进行训练。
2.根据权利要求1所述的方法,其特征在于,所述根据所述对话训练样本,生成模型训练数据,包括:
根据所述对话训练样本中第1轮样本对话内容至第M轮样本对话内容,生成回复参考内容;
获取所述回复参考内容对应的候选回复内容;
根据所述回复参考内容和所述回复参考内容对应的候选回复内容,生成模型训练数据。
3.根据权利要求2所述的方法,其特征在于,所述候选回复内容包括正例回复内容和/或负例回复内容;
所述获取所述回复参考内容对应的候选回复内容,包括:
根据所述对话训练样本中第M+1轮样本对话内容,生成所述回复参考内容对应的正例回复内容;
和/或,
根据预设对话语料,生成所述回复参考内容对应的负例回复内容。
4.根据权利要求1所述的方法,其特征在于,当所述模型训练数据包括所述对话训练样本中第t轮样本对话内容,且所述对话重要度包括所述第t轮样本对话内容的信息重要度,且t为正整数,t≤M时,所述根据所述对话训练样本,生成对话重要度,包括:
根据所述对话训练样本中第t轮样本对话内容的独有信息,确定所述对话训练样本中第t轮样本对话内容的信息重要度。
5.根据权利要求4所述的方法,其特征在于,所述根据所述对话训练样本中第t轮样本对话内容的独有信息,确定所述对话训练样本中第t轮样本对话内容的信息重要度,包括:
根据所述对话训练样本中第t+1轮样本对话内容至第M轮样本对话内容,确定第t轮对话预测内容;其中,所述第t轮样本对话内容的独有信息为所述第t轮样本对话内容与所述第t轮对话预测内容的信息差值;
将所述对话训练样本中第t+1轮样本对话内容至第M轮样本对话内容、以及所述第t轮对话预测内容输入预先构建的正向生成式对话模型,得到所述对话训练样本中第M+1轮样本对话内容对应的伪生成概率;
将所述对话训练样本中第t轮样本对话内容至第M轮样本对话内容输入预先构建的正向生成式对话模型,得到所述对话训练样本中第M+1轮样本对话内容对应的真生成概率;
根据所述对话训练样本中第M+1轮样本对话内容对应的伪生成概率和所述对话训练样本中第M+1轮样本对话内容对应的真生成概率,确定所述对话训练样本中第t轮样本对话内容的信息重要度。
6.根据权利要求5所述的方法,其特征在于,所述根据所述对话训练样本中第t+1轮样本对话内容至第M轮样本对话内容,确定第t轮对话预测内容,包括:
将所述对话训练样本中第t+1轮样本对话内容至第M轮样本对话内容输入预先构建的反向生成式对话模型,得到所述反向生成式对话模型输出的第t轮对话预测内容。
7.根据权利要求1所述的方法,其特征在于,若所述模型训练数据包括候选回复内容,则所述根据所述模型训练数据和所述对话重要度,对回复对话评分模型进行训练,包括:
根据所述模型训练数据、所述对话重要度和所述回复对话评分模型,得到所述候选回复内容的预测使用评分;
根据所述候选回复内容的预测使用评分和所述候选回复内容的实际使用评分,更新所述回复对话评分模型,并继续执行所述根据所述模型训练数据、所述对话重要度和所述回复对话评分模型,得到所述候选回复内容的预测使用评分的步骤,直至达到预设停止条件。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中科讯飞互联(北京)信息科技有限公司,未经中科讯飞互联(北京)信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011224129.2/1.html,转载请声明来源钻瓜专利网。