[发明专利]一种对话生成的方法和装置在审
申请号: | 201810213188.6 | 申请日: | 2018-03-15 |
公开(公告)号: | CN110309275A | 公开(公告)日: | 2019-10-08 |
发明(设计)人: | 任昭春;陈宏申;汤继良;殷大伟;赵一鸿 | 申请(专利权)人: | 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司 |
主分类号: | G06F16/332 | 分类号: | G06F16/332 |
代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 张一军;张效荣 |
地址: | 100195 北京市海淀区杏石口路6*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 对话 状态向量 记忆内容 方法和装置 对话信息 向量 回复 计算机技术领域 读取 回复信息 记忆单元 前轮 | ||
本发明公开了一种对话生成的方法和装置,涉及计算机技术领域。该方法的一具体实施方式包括:接收当前轮对话的对话信息,获取上一轮对话的隐状态向量,根据对话信息以及上一轮对话的隐状态向量,确定当前轮对话的隐状态向量;基于当前轮对话的隐状态向量,生成相应的变分隐状态向量,以提取相应的记忆内容向量;至少根据当前轮对话的隐状态向量以及记忆内容向量,生成对话回复信息。该实施方式提供了一种新颖的对话生成思路,结合变分隐变量,以随机读取记忆单元中的记忆内容,进而生成多样化的对话回复;另外,对于记忆内容的提取,提高了对话回复的准确性。
技术领域
本发明涉及计算机技术领域,尤其涉及一种对话生成的方法和装置。
背景技术
随着电子商务的发展,电子商务平台承担了有关商品的售后需求,但随着业务的发展、用户线上购物数量的增多,传统的人工客服模式已难以适应海量电商用户的售后需求,同时也给企业带来了巨大的人力成本负担。
为解决该现象,基于语音对话性质的导购服务应运而生,即引入对话生成系统(Dialogue Generation System),通过训练机器学习模型来更准确的捕捉用户的购物需求,同时动态理解用户的需求变化,以模拟自然人的对话方式,引导和帮助用户完成在电商网站上的购物行为以及完善各类售后服务。
现有技术主要采用基于序列到序列的神经网络对话生成模型,即将对话生成描述为给定历史对话词序列,以生成相应的回复词序列。具体地,采用两个循环神经网络(RNN,Recurrent Neural Networks)——编码器以及解码器;其中,编码器编码时,首先将一个词映射成词向量,然后将词向量作为循环神经网络的输入,当循环到最后一个词时,用解码器循环神经网络的隐状态做分类,依次计算回复的词序列,生成相应的对话回复。
在实现本发明的过程中,发明人发现现有技术至少存在如下问题:
(1)无效回复:现有的对话生成模型,由于无法有效获取全部的上下文语义描述以及对于长句子建模能力的欠缺,往往生成与主题不相关的无效回复,例如“哈哈”、“我不知道”,回复较为单调,缺乏多样性,阻碍提升对话生成系统的效率;
(2)记忆衰退:现有的对话生成模型,由于无法有效跟踪之前全部对话信息,且随着对话轮数的增加,系统对于对话起始阶段的记忆会越来越模糊,从而无法生成合理的回复,成为多轮对话系统的主要开发障碍。
发明内容
有鉴于此,本发明实施例提供一种对话生成的方法和装置,至少能够解决现有技术中对于对话记忆衰退,引发无法准确获取全部对话信息,所导致对话回复不准确的问题。
为实现上述目的,根据本发明实施例的一个方面,提供了一种对话生成的方法,包括:接收当前轮对话的对话信息,获取上一轮对话的隐状态向量,根据对话信息以及上一轮对话的隐状态向量,确定当前轮对话的隐状态向量;基于当前轮对话的隐状态向量,生成相应的变分隐状态向量,以提取相应的记忆内容向量;至少根据当前轮对话的隐状态向量以及记忆内容向量,生成对话回复信息。
可选的,接收当前轮对话的对话信息,获取上一轮对话的隐状态向量,根据对话信息以及上一轮对话的隐状态向量,确定当前轮对话的隐状态向量包括:接收当前轮对话的对话信息,转换对话信息为相应的句子向量;获取上一轮对话的隐状态向量,根据句子向量以及上一轮对话的隐状态向量,确定当前轮对话的隐状态向量。
可选的,接收当前轮对话的对话信息,转换对话信息为相应的句子向量包括:接收当前轮对话当前所输入的对话信息,转换当前所输入的对话信息为词序列,确定相应的词向量;其中,词序列与词向量具有映射关系;获取当前轮对话中上一次输入对话信息的隐状态向量,结合所述词向量,以确定与当前所输入的对话信息相应的隐状态向量;重复上述步骤,当检测到当前轮对话信息输入完毕时,将所确定的隐状态向量作为当前轮对话的句子向量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810213188.6/2.html,转载请声明来源钻瓜专利网。
- 上一篇:引导语推荐方法、装置及电子设备
- 下一篇:电动汽车对话状态管理方法及系统