[发明专利]回复模型的获取方法、回复语句的获取方法、装置及设备在审
申请号: | 202111221321.0 | 申请日: | 2021-10-20 |
公开(公告)号: | CN114281958A | 公开(公告)日: | 2022-04-05 |
发明(设计)人: | 吴志勇;闭玮 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/33;G06F16/36 |
代理公司: | 北京三高永信知识产权代理有限责任公司 11138 | 代理人: | 孙晓丽 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 回复 模型 获取 方法 语句 装置 设备 | ||
本申请公开了回复模型的获取方法、回复语句的获取方法、装置及设备,属于人工智能技术领域。其中,回复模型的获取方法包括:获取第一训练样本,第一训练样本基于参考发言语句、参考回复语句和参考发言语句中的各个第一词汇对应的第一知识语句生成。基于第一训练样本训练得到回复模型,回复模型包括编码子模型和解码子模型,编码子模型用于将输入的目标发言语句编码为目标向量,解码子模型用于根据目标向量输出目标回复语句。在使用本申请训练得到的回复模型输出回复语句时,无需检索知识并输入回复模型,获取回复语句的效率较高。所获取的回复语句考虑了细粒度的知识,具有较高的质量。本申请能够应用于地图领域。
技术领域
本申请涉及人工智能技术领域,特别涉及一种回复模型的获取方法、回复语句的获取方法、装置及设备。
背景技术
对话系统是一种能够针对输入的发言(utterance)语句输出回复(response)语句的系统。由于人们期望提高输出的回复语句的质量,因而KGD(Knowledge-grounded DialogGeneration,基于知识的对话生成)系统应运而生。KGD系统在生成回复语句时会考虑与发言语句相关的知识(knowledge)。
在相关技术中,KGD系统是知识外化(knowledge externalization)的KGD系统。在训练知识外化的KGD系统时,将与发言语句对应的知识语句输入知识外化的KGD系统。
然而,由于相关技术在训练过程中使用的是与发言语句对应的知识语句,而与发言语句对应的知识语句是粗粒度的知识,因而知识外化的KGD系统学习到的是粗粒度的知识。因此,在获取回复语句的过程中,需要在知识库中搜索与发言语句相关的知识语句,该搜索过程需要消耗较长的时间,从而使得通过知识外化的KGD系统获取回复语句的效率较低。并且,通过知识外化的KGD系统获取的回复语句仅考虑了粗粒度的知识,因而获取的回复语句的质量也较低。
发明内容
本申请实施例提供了一种回复模型的获取方法、回复语句的获取方法、装置及设备,以解决通过相关技术中的知识外化的KGD系统获取回复语句的效率较低、获取的回复语句的质量也较低的问题。技术方案如下:
一方面,提供了一种回复模型的获取方法,方法包括:
获取第一训练样本,第一训练样本基于参考发言语句、参考回复语句和参考发言语句中的各个第一词汇对应的第一知识语句生成;
基于第一训练样本训练得到回复模型,回复模型包括编码子模型和解码子模型,编码子模型用于将输入的目标发言语句编码为目标向量,解码子模型用于根据目标向量输出目标回复语句。
在示例性实施例中,基于第五向量和第二正训练样本中的第一知识语句确定第三函数值,基于第五向量和第二负训练样本中的第一知识语句确定第四函数值,包括:
将第二正训练样本中的第一知识语句编码为第三向量组,对第三向量组进行池化得到第六向量,将第二负训练样本中的第一知识语句编码为第四向量组,对第四向量组进行池化得到第七向量;
对第五向量、第六向量和第七向量进行映射及归一化,得到长度相同的更新后的第五向量,更新后的第六向量和更新后的第七向量;
计算更新后的第五向量和更新后的第六向量之间的点积,得到第三函数值,计算更新后的第五向量和更新后的第七向量之间的点积,得到第四函数值。
一方面,提供了一种回复语句的获取方法,方法包括:
获取需要回复的目标发言语句;
将目标发言语句输入回复模型中的编码子模型,编码子模型用于将目标发言语句编码为目标向量,回复模型中还包括解码子模型,解码子模型用于根据目标向量输出目标回复语句,其中,编码子模型和解码子模型是基于第一训练样本训练得到的,第一训练样本基于参考发言语句、参考回复语句和参考发言语句中的各个第一词汇对应的第一知识语句生成;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111221321.0/2.html,转载请声明来源钻瓜专利网。