[发明专利]一种基于深度学习的端到端目标引导型对话方法有效
申请号: | 201810967833.3 | 申请日: | 2018-08-23 |
公开(公告)号: | CN110858215B | 公开(公告)日: | 2023-04-07 |
发明(设计)人: | 叶志豪;廖朝辉;蔡瑞初;崔洪刚;张袁震宇 | 申请(专利权)人: | 广东工业大学 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/35 |
代理公司: | 广州粤高专利商标代理有限公司 44102 | 代理人: | 林丽明 |
地址: | 510006 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 深度 学习 端到端 目标 引导 对话 方法 | ||
本发明涉及自然语言处理技术领域,具体涉及一种基于深度学习的端到端目标引导型对话方法,包括如下步骤:S1:获取上一轮用户对话和当前对话历史,根据上一轮用户对话和当前对话历史初始化序列到序列模型;S2:确定当前知识库实体的行号;S3:确定当前知识库实体的列号;S4:通过注意力机制的得到最佳匹配实体;S5:迭代执行步骤S2‑S4直至最终输出下一轮对话。本发明克服了现有的端到端的对话对话效率低下,影响用户的个性化体验的技术缺陷,通过自然语言对话的精准度,提供良好的用户服务。
技术领域
本发明涉及自然语言处理技术领域,具体涉及一种基于深度学习的端到端目标引导型对话方法。
背景技术
随着深度学习的近几年的发展,端到端的目标引导型对话系统的效果慢慢提高,在我们工作中也是一个端到端的对话系统模型,在端到端的模型中,输入用户的对话直接可以输出系统的回复,而不用经过不同模块之间的显示的转换。
而现有特定领域的多轮对话任务,主要用的是序列到序列的模型,根据序列到序列的模型生成的对话的准确度低,不能给用户准确可靠的回答。对于特定领域的多轮对话任务,一个重要的衡量指标就是根据用于给出答复时,系统能不能根据当前用户的询问以及当前数据知识的内容,回复带有知识实体的准确的回答。因而现有的多轮对话端到端系统的知识查询没有很好的效果,对话效率低下,影响了用户的个性化体验。
发明内容
本发明克服了上述现有的端到端对话问答模式的对话效率地低下、精准度低技术缺陷,提供了一种基于深度学习的端到端目标引导型对话方法及系统,提出了对知识库表先定行后定列的查询机制。
为解决上述技术问题,本发明的技术方案如下:
一种基于深度学习的端到端目标引导型对话方法,包括如下步骤:
S1:获取上一轮用户对话和当前对话历史,根据上一轮用户对话和当前对话历史初始化序列到序列模型;
S2:确定当前知识库实体的行号;
S3:确定当前知识库实体的列号;
S4:通过注意力机制的得到最佳匹配实体;
S5:迭代执行步骤S2-S4直至最终输出下一轮对话。
序列到序列模型包括编码器和解码器,编码器在给定对话历史和用户上一轮对话之后,编码器对输出内容进行编码抽象,得到上个上下文向量,并将该上下文向量传送至解码器;解码器接收编码器传送的上下文向量,并从词库中生成相对应的下一个词。
其中,S2具体步骤为:
S2.1:编码器对上一轮用户对话及当前对话历史进行编码,得到隐含向量和解码器当前隐含向量,并计算相似度向量;
S2.2:采用softmax对S2.1得到的相似度向量计算得到注意力权重;
S2.3:得到编码器当前的上下文向量,采用注意力权重与隐含向量相乘得到;
S2.4:建立一个多层神经网络并对其进行训练;
S2.5:根据训练得到的多层神经网络进行行的分类。
其中,S3具体步骤为:
S3.1:根据每一列的知识实体向量和解码器的当前隐含向量计算相似度向量;
S3.2:对S3.1得到的相似度向量,根据softmax计算注意力权重得分;
S3.3:根据注意力权重得分与每一列的知识实力向量相乘得到知识实体的列的分类。
注意力机制通过计算解码状态与知识实体之的相关程度,得到隐层向量的权重。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广东工业大学,未经广东工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810967833.3/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种护栏用角钢法兰机
- 下一篇:用于光纤拉丝涂敷的装置