[发明专利]一种基于多轮对话知识转移的回复生成方法及装置在审
申请号: | 202110825018.5 | 申请日: | 2021-07-21 |
公开(公告)号: | CN113468312A | 公开(公告)日: | 2021-10-01 |
发明(设计)人: | 方凡;周兴发;饶璐;谭斌;杨兰;李焕;孙锐;展华益 | 申请(专利权)人: | 四川启睿克科技有限公司 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/33;G06F40/126;G06F40/194;G06F40/279;G06F40/30;G06N3/04;G06N3/08;G06N7/00 |
代理公司: | 四川省成都市天策商标专利事务所 51213 | 代理人: | 刘兴亮 |
地址: | 610000 四川省成都市中国(四川)*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 轮对 知识 转移 回复 生成 方法 装置 | ||
1.一种基于多轮对话知识转移的回复生成方法,其特征在于,包括如下步骤:
A、会话编码:把会话历史文本和用户输入文本进行分词并转化为词向量,同时利用编码器对每一轮的对话以及用户输入分别进行编码,得到每一轮会话历史的语义编码以及用户输入的语义编码;
B、知识转移状态预测:基于会话历史和用户输入的语义编码,利用历史知识转移路径,预测当前的知识转移概率分布,进而得到当前知识标签;
C、知识检索:在知识库中,基于当前知识标签,检索与用户当前输入最相关的知识文本;
D、回复生成:根据检索到的知识文本、会话历史语义编码、用户输入语义编码,生成包含知识的回复。
2.如权利要求1所述的一种基于多轮对话知识转移的回复生成方法,其特征在于,所述步骤A中会话历史文本和用户输入文本的词向量,包括:随机初始化的词向量,或基于深度学习的语言模型训练得到的词向量。
3.如权利要求1所述的一种基于多轮对话知识转移的回复生成方法,其特征在于,所述步骤A中的编码器,包括:基于循环神经网络的编码器。
4.如权利要求1所述的一种基于多轮对话知识转移的回复生成方法,其特征在于,所述步骤B中预测知识转移概率分布的方法,包括:LSTM结合条件随机场的方法。
5.如权利要求1所述的一种基于多轮对话知识转移的回复生成方法,其特征在于,所述步骤C中的知识检索方法,包括:基于文本相似度的检索方法。
6.如权力要求1所述的一种基于多轮对话知识转移的回复生成方法,其特征在于,所述步骤D中的回复生成方法,包括:会话历史、知识和用户输入的交互对齐;基于循环神经网络的解码器;解码器的注意力机制。
7.一种基于多轮对话知识转移的回复生成装置,其特征在于,包括:会话编码模块,用于根据会话历史文本和用户输入文本进行编码,得到每一轮历史对话的语义编码以及用户输入的语义编码;
知识转移状态预测模块,用于根据会话历史语义编码、用户输入语义编码、历史知识转移路径,预测当前的知识转移概率分布,进而得到当前知识标签;
知识检索模块,用于在知识库中,基于当前知识标签检索与用户当前输入最相关的知识文本;
回复生成模块,用于根据检索到的相关知识、会话历史语义编码、用户输入语义编码,生成包含知识的回复。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于四川启睿克科技有限公司,未经四川启睿克科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110825018.5/1.html,转载请声明来源钻瓜专利网。