[发明专利]一种基于记忆网络的对话策略状态跟踪方法及系统在审
申请号: | 202110997388.7 | 申请日: | 2021-08-27 |
公开(公告)号: | CN113704426A | 公开(公告)日: | 2021-11-26 |
发明(设计)人: | 郑颖龙;叶杭;周昉昉;许鑫禹;刘佳木;陈颖璇;林嘉鑫;张乐然;刘清源 | 申请(专利权)人: | 广东电力信息科技有限公司 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/33;G06F16/338;G06N3/04;G06N3/08 |
代理公司: | 北京世誉鑫诚专利代理有限公司 11368 | 代理人: | 任欣生 |
地址: | 510030 广东省广*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 记忆 网络 对话 策略 状态 跟踪 方法 系统 | ||
本发明提供的一种基于记忆网络的对话策略状态跟踪方法及系统,跟踪方法包括:网络模型包括多个记忆数组;获取原始对话语言文本;将原始对话语言文本预处理,获得神经网络里内在的词向量;将词向量存储在所述记忆数组的下一个位置;根据词向量在所有记忆数组中选择出最相关的k个记忆单元;获取原始对话语言文本和最相关的k个记忆单元,获得相关记忆参数;使用评分函数计算候选词与相关记忆参数的相关性,获得计算得分;获取计算得分中最相关的语言文本。强化模型的记忆存储能力,使得整个对话系统保留更多的语义信息,提升了对话机器人对意图的理解和对关键信息的把握。提升了对话机器人对任务的理解。
技术领域
本发明涉及对话沟通领域,尤其涉及一种基于记忆网络的对话策略状态跟踪方法及系统。
背景技术
随着移动互联网和智能终端的快速发展,任务型人机对话系统在工业界的应用越来越广泛。对话系统会面向某一个任务,具备处理一些业务的能力。对话系统首先能够理解人类给出的信息,将其表示为一个内部状态,然后根据策略和对话状态选择一些动作,最后把动作转化为自然语言的表达形式。
对话状态跟踪是对话系统的主要模块之一,目标是追踪用户需求并判断当前的对话状态。对于对话系统来说,这一模块有着重大意义,很多时候要综合考虑用户的输入才能理解用户的真正需求。
传统的循环神经网络、长短期记忆等模型的隐藏状态或者任务机制的记忆存储能力太弱,无法精确记录一段话中所表达的全部内容,很容易丢失一部分语义信息。
发明内容
鉴于上述问题,提出了本发明以便提供克服上述问题或者至少部分地解决上述问题的一种基于记忆网络的对话策略状态跟踪方法及系统。
根据本发明的一个方面,提供了一种基于记忆网络的对话策略状态跟踪方法,所述跟踪方法包括:网络模型包括多个记忆数组;
获取原始对话语言文本;
将所述原始对话语言文本预处理,获得神经网络里内在的词向量;
将所述词向量存储在所述记忆数组的下一个位置;
根据所述词向量在所有记忆数组中选择出最相关的k个记忆单元;
获取所述原始对话语言文本和所述最相关的k个记忆单元,获得相关记忆参数;
使用评分函数计算候选词与所述相关记忆参数的相关性,获得计算得分;
获取所述计算得分中最相关的语言文本。
可选的,所述将所述原始对话语言文本预处理,获得神经网络里内在的词向量具体包括:
采用文本输入解析、共参考和实体解析进行标准化预处理;
将所述原始文本x转化为内部词向量I(x)。
可选的,所述将所述词向量存储在所述记忆数组的下一个位置具体包括:直接写入新的记忆,对原有的记忆不做更新;
mN=x;
N=N+1;
其中x为原始文本,I(x)为经过转换后的内部词向量,m为记忆数组,i,N为第几条数据。
可选的,所述使用评分函数计算候选词与所述相关记忆参数,获得计算得分具体包括:
根据所述原始文本x和选出的最相关的k个记忆单元moi,获取相关记忆参数为[x,mo1,mo2];
使用评分函数计算所有候选词与所述相关记忆参数的相关性;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广东电力信息科技有限公司,未经广东电力信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110997388.7/2.html,转载请声明来源钻瓜专利网。