[发明专利]一种意图理解模型训练方法及装置、意图理解方法及装置在审
申请号: | 202011500085.1 | 申请日: | 2020-12-17 |
公开(公告)号: | CN112528679A | 公开(公告)日: | 2021-03-19 |
发明(设计)人: | 尹坤;刘权;陈志刚;王智国;胡国平 | 申请(专利权)人: | 科大讯飞股份有限公司 |
主分类号: | G06F40/35 | 分类号: | G06F40/35;G06F16/35;G06F40/42;G06F3/16 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 冯柳伟 |
地址: | 230088 安徽*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 意图 理解 模型 训练 方法 装置 | ||
1.一种意图理解模型训练方法,其特征在于,所述方法包括:
获取目标语言训练数据和辅助语言训练数据;
将所述目标语言训练数据和所述辅助语言训练数据输入意图理解模型,得到所述意图理解模型输出的所述目标语言训练数据对应的预测意图和所述辅助语言训练数据对应的预测意图;
根据所述目标语言训练数据对应的预测意图和所述辅助语言训练数据对应的预测意图,确定所述意图理解模型的模型预测损失;
根据所述意图理解模型的模型预测损失更新所述意图理解模型,并继续执行所述将所述目标语言训练数据和所述辅助语言训练数据输入意图理解模型的步骤,直至达到预设停止条件。
2.根据权利要求1所述的方法,其特征在于,所述目标语言训练数据包括目标语言真实数据、目标语言翻译数据和目标语言生成数据中的至少一种;其中,所述目标语言翻译数据是将辅助语言真实数据进行翻译得到的;所述目标语言生成数据是根据候选意图数据生成的。
3.根据权利要求2所述的方法,其特征在于,所述目标语言生成数据的获取过程为:
将所述候选意图数据输入预先构建的目标语言数据生成模型,得到所述目标语言数据生成模型输出的目标语言生成数据;其中,所述目标语言数据生成模型是利用目标语言标注数据和辅助语言标注数据训练得到的。
4.根据权利要求3所述的方法,其特征在于,所述目标语言数据生成模型的构建过程包括:
利用所述辅助语言标注数据对待训练模型进行训练,得到辅助语言数据生成模型;
利用所述目标语言标注数据对所述辅助语言数据生成模型进行训练,得到所述目标语言数据生成模型。
5.根据权利要求2所述的方法,其特征在于,所述目标语言翻译数据的获取过程为:
根据预设词汇映射关系和所述辅助语言真实数据中的待翻译词汇,确定所述待翻译词汇对应的目标语言词汇,并根据所述辅助语言真实数据和所述待翻译词汇对应的目标语言词汇,确定所述目标语言翻译数据;其中,所述预设词汇映射关系包括所述待翻译词汇和所述待翻译词汇对应的目标语言词汇之间的对应关系;
或者,
将所述辅助语言真实数据输入预先构建的语言翻译模型,得到所述语言翻译模型输出的所述辅助语言真实数据对应的翻译结果,并根据所述辅助语言真实数据对应的翻译结果,确定所述目标语言翻译数据。
6.根据权利要求1所述的方法,其特征在于,所述根据所述目标语言训练数据对应的预测意图和所述辅助语言训练数据对应的预测意图,确定所述意图理解模型的模型预测损失,包括:
根据所述目标语言训练数据对应的预测意图,确定目标语言预测损失;
根据所述辅助语言训练数据对应的预测意图,确定辅助语言预测损失;
根据所述目标语言预测损失和所述辅助语言预测损失,确定所述意图理解模型的模型预测损失。
7.根据权利要求6所述的方法,其特征在于,当所述目标语言训练数据包括目标语言真实数据、目标语言翻译数据和目标语言生成数据,且所述目标语言训练数据对应的预测意图包括目标语言真实数据的预测意图、目标语言翻译数据的预测意图和目标语言生成数据的预测意图时,所述方法还包括:
获取目标语言真实数据的实际意图、目标语言翻译数据的参考意图、目标语言生成数据的实际意图;
所述根据所述目标语言训练数据对应的预测意图,确定目标语言预测损失,包括:
根据所述目标语言真实数据的预测意图和所述目标语言真实数据的实际意图,确定目标语言真实数据对应的预测损失;
根据所述目标语言翻译数据的预测意图和所述目标语言翻译数据的参考意图,确定所述目标语言翻译数据对应的预测损失;
根据所述目标语言生成数据的实际意图和所述目标语言生成数据的实际意图,确定所述目标语言生成数据对应的预测损失;
根据所述目标语言真实数据对应的预测损失、所述目标语言翻译数据对应的预测损失和所述目标语言生成数据对应的预测损失,确定目标语言预测损失。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于科大讯飞股份有限公司,未经科大讯飞股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011500085.1/1.html,转载请声明来源钻瓜专利网。