[发明专利]对话生成及装置、计算机可读存储介质、电子设备有效
申请号: | 201911215245.5 | 申请日: | 2019-12-02 |
公开(公告)号: | CN111198937B | 公开(公告)日: | 2023-06-30 |
发明(设计)人: | 杜维;刘设伟;杨铭 | 申请(专利权)人: | 泰康保险集团股份有限公司;泰康在线财产保险股份有限公司 |
主分类号: | G06F16/332 | 分类号: | G06F16/332;G06F16/35;G06N3/0464;G06N3/08;G06N3/0442 |
代理公司: | 隆天知识产权代理有限公司 72003 | 代理人: | 章侃铱;石海霞 |
地址: | 100031 北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 对话 生成 装置 计算机 可读 存储 介质 电子设备 | ||
1.一种对话生成方法,其特征在于,包括:
对用户输入的当前对话交互信息进行分词处理得到多个当前词组,并对各所述当前词组进行编码得到多个当前句子向量;
将各所述当前句子向量输入至对话生成模型,得到与所述当前对话交互信息对应的当前对话意图、当前关键词槽以及当前特征词槽;其中,所述对话生成模型是根据原始对话交互信息对双向长短记忆网络模型进行训练得到的;
根据所述当前对话意图、当前关键词槽以及当前特征词槽,生成与所述当前对话交互信息对应的对话;
利用所述原始对话交互信息对所述双向长短记忆网络模型进行训练得到所述对话生成模型,包括:根据所述原始对话交互信息得到预测意图信息以及预测槽位信息,并根据所述预测意图信息以及所述预测槽位信息的注意力权重以及上下文值得到预测意图分类结果以及预测槽位标注结果;计算目标意图分类结果与所述预测意图分类结果的意图分类损失函数,以及目标槽位标注结果与所述预测槽位标注结果的槽位损失函数;根据所述意图分类损失函数以及槽位损失函数得到交叉熵损失函数,并根据所述交叉熵损失函数对双向长短记忆网络模型进行训练得到所述对话生成模型。
2.根据权利要求1所述的对话生成方法,其特征在于,在根据所述预测意图信息以及所述预测槽位信息的注意力权重以及上下文值得到预测意图分类结果以及预测槽位标注结果之前,所述对话生成方法还包括:
分别对所述预测意图信息以及预测槽位信息进行逻辑回归计算,得到所述预测意图信息以及所述预测槽位信息的注意力权重;
分别对所述预测意图信息以及预测槽位信息的注意力权重进行加权求和,得到所述预测意图信息以及预测槽位信息的上下文值。
3.根据权利要求1所述的对话生成方法,其特征在于,根据所述预测意图信息以及所述预测槽位信息的注意力权重以及上下文值得到预测意图分类结果以及预测槽位标注结果包括:
对所述预测意图信息以及所述预测槽位信息的上下文值进行转换得到包括一次训练所选取的训练样本的数量以及训练样本的总数量的意图张量;
将所述预测意图信息以及所述预测槽位信息的注意力权重以及所述意图张量输入至编解码框架中的解码双向长短记忆网络模型中,得到所述预测意图分类结果以及预测槽位标注结果。
4.根据权利要求1所述的对话生成方法,其特征在于,所述预测槽位信息包括预测关键词槽以及预测特征词槽;
其中,根据各所述句子向量得到预测意图信息以及预测槽位信息包括:
将各所述句子向量输入至编解码框架中的编码双向长短记忆网络模型中,得到所述预测意图信息、所述预测关键词槽以及所述预测特征词槽。
5.根据权利要求4所述的对话生成方法,其特征在于,所述目标槽位标注结果包括目标关键词槽标注结果以及目标特征词槽标注结果;
其中,计算目标槽位标注结果与所述预测槽位标注结果的槽位损失函数包括:
计算所述目标关键词槽标注结果与预测关键词槽标注结果之间的关键词槽损失函数;
计算所述目标特征词槽标注结果与预测特征词槽标注结果之间的特征词槽损失函数;
根据所述关键词槽损失函数以及所述特征词槽损失函数得到所述槽位损失函数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于泰康保险集团股份有限公司;泰康在线财产保险股份有限公司,未经泰康保险集团股份有限公司;泰康在线财产保险股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911215245.5/1.html,转载请声明来源钻瓜专利网。