[发明专利]回复消息生成方法、系统、计算机设备及存储介质在审
申请号: | 202010949276.X | 申请日: | 2020-09-10 |
公开(公告)号: | CN112214585A | 公开(公告)日: | 2021-01-12 |
发明(设计)人: | 王振伟;杨敏;李成明;姜青山 | 申请(专利权)人: | 中国科学院深圳先进技术研究院 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/35;G06F40/216;G06F40/284;G06F40/289;G06F40/30 |
代理公司: | 深圳市威世博知识产权代理事务所(普通合伙) 44280 | 代理人: | 黎坚怡 |
地址: | 518055 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 回复 消息 生成 方法 系统 计算机 设备 存储 介质 | ||
1.一种回复消息生成方法,其特征在于,所述方法包括:
获取对话消息,所述对话消息带有情感标签;
对所述对话消息进行分词和嵌入,得到输入语义特征向量;
将所述输入语义特征向量和情感标签输入语义-情感记忆模块,得到情感记忆值;
利用所述输入语义特征向量和所述情感记忆值进行预测,生成回复消息。
2.根据权利要求1所述的方法,其特征在于,
所述语义-情感记忆模块包括语义记忆层和情感记忆层;
所述语义记忆层包括K个对话消息语义向量,每个所述对话消息语义向量在所述情感记忆层对应N个情感类,每个所述情感类存储一个情感记忆值。
3.根据权利要求2所述的方法,其特征在于,
所述将所述输入语义特征向量和情感标签输入语义-情感记忆模块,得到情感记忆值,包括:
在所述语义记忆层搜索与所述输入语义特征向量相似度最高的对话消息语义向量;
在所述情感记忆层搜索所述对话消息语义向量对应的、与所述情感标签为相同情感类型的情感类,获取所述情感类对应的情感记忆值。
4.根据权利要求2所述的方法,其特征在于,
所述K个对话消息语义向量为多个对话消息语义特征向量被聚类为K个聚类簇的簇中心,每个所述对话消息语义向量对应多个回复消息语义特征向量,且每个所述对话消息语义向量对应的多个所述回复消息语义特征向量根据情感类型被分类为N个情感类,每个所述情感类以类中回复消息语义特征向量的平均向量为情感记忆值。
5.根据权利要求1所述的方法,其特征在于,
所述利用所述输入语义特征向量和所述情感记忆值进行预测,生成回复消息包括:
将所述输入语义特征向量和所述情感记忆值进行合并;
将合并结果作为解码器的初始状态,利用所述解码器逐步预测每个时间步的回复单词的概率;
基于所述概率确定每个时间步的最终回复单词,所有所述最终回复单词按时间顺序组合得到所述回复消息。
6.根据权利要求5所述的方法,其特征在于,
所述利用所述解码器逐步预测每个时间步的回复单词的概率包括:
每个时间步以所述情感标签的初始化向量作为所述解码器的额外输入,更新当前时间步的隐藏层状态,并利用全局上下文向量预测当前时间步的回复单词的概率。
7.根据权利要求4所述的方法,其特征在于,
在所述获取对话消息之前,所述方法包括:
利用语料库训练回复消息生成网络,所述语料库包括多组带有情感标签的对话消息及对应的真实回复,所述回复消息生成网络包括第一子网络和第二子网络,所述第一子网络用于为所述带有情感标签的对话消息生成回复消息,所述第二子网络用于对所述真实回复进行重构。
8.根据权利要求7所述的方法,其特征在于,
所述方法包括:
在对所述回复消息生成网络进行训练时,所述第一子网络将所述语料库中的对话消息转换为训练语料对话向量,所述第二子网络将所述语料库中的真实回复转换为训练语料回复向量,依次将每对所述训练语料对话向量和训练语料回复向量写入所述语义-情感记忆模块;
将所述训练语料对话向量作为对话消息语义特征向量调整所述K个聚类簇,以更新所述对话消息语义向量;
将所述训练语料回复向量作为所述回复消息语义特征向量,重新计算每个所述情感类中的回复消息语义特征向量的平均向量,以更新所述情感记忆值。
9.一种回复消息生成系统,其特征在于,所述系统包括:
获取模块,用于获取对话消息,所述对话消息带有情感标签;
分词嵌入模块,用于对所述对话消息进行分词和嵌入,得到输入语义特征向量;
语义-情感记忆模块,用于存储情感记忆值;
情感记忆值获取模块,用于将所述输入语义特征向量和情感标签输入语义-情感记忆模块,得到情感记忆值;
预测模块,用于利用所述输入语义特征向量和所述情感记忆值进行预测,生成回复消息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院深圳先进技术研究院,未经中国科学院深圳先进技术研究院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010949276.X/1.html,转载请声明来源钻瓜专利网。