[发明专利]端到端模型训练方法、语义理解方法、装置、设备和介质在审
申请号: | 202210408734.8 | 申请日: | 2022-04-19 |
公开(公告)号: | CN114781365A | 公开(公告)日: | 2022-07-22 |
发明(设计)人: | 张桐桐;殷腾龙 | 申请(专利权)人: | 海信视像科技股份有限公司 |
主分类号: | G06F40/279 | 分类号: | G06F40/279;G06F40/30 |
代理公司: | 北京国之大铭知识产权代理事务所(普通合伙) 11565 | 代理人: | 张平 |
地址: | 266555 山东省青*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 端到端 模型 训练 方法 语义 理解 装置 设备 介质 | ||
1.一种端到端语义理解模型训练方法,其特征在于,所述方法包括:
获取训练样本,所述训练样本包括自然语言文本、所述自然语言文本对应的关键词集合以及关键词对应的标签信息集合;
定义端到端语义理解模型的框架,基于所述端到端语义理解模型的框架和所述训练样本,生成对应的语义理解结果,所述语义理解结果包括意图识别结果、关键词以及每个关键词对应的标签信息;
基于预设损失函数,根据所述训练样本对所述端到端语义理解模型的框架进行训练,得到端到端语义理解模型。
2.根据权利要求1所述的方法,其特征在于,所述端到端语义理解模型的框架包括语义特征提取单元、全连接层以及目标结果分数计算单元;
所述语义特征提取单元用于基于所述自然语言文本生成对应的语义向量;
所述全连接层用于对所述语义向量进行融合处理,得到意图识别预测向量和关键词预测向量;
所述目标结果分数计算单元用于基于所述意图识别预测向量和所述关键词预测向量分别得到对应的预测分数,并基于所述预测分数确定所述自然语言文本对应的语义理解结果。
3.根据权利要求2所述的方法,其特征在于,所述基于所述意图识别预测向量和所述关键词预测向量分别得到对应的预测分数,并基于所述预测分数确定所述自然语言文本对应的语义理解结果,包括:
基于所述意图识别预测向量,根据第一参数矩阵,确定对应的第一预测分数;
基于所述关键词预测向量,根据第二参数矩阵,确定对应的第二预测分数;
基于所述意图识别预测向量和所述关键词预测向量,根据第三参数矩阵,确定对应的第三预测分数;
基于所述第一预测分数、所述第二预测分数以及所述第三预测分数,确定所述自然语言文本对应的语义理解结果。
4.根据权利要求2所述的方法,其特征在于,所述语义特征提取单元包括:语义表示层和编码层;
所述语义表示层,用于基于所述自然语言文本生成对应的表示向量;
所述编码层,用于对所述表示向量进行特征提取,得到所述自然语言文本对应的语义向量。
5.根据权利要求3所述的方法,其特征在于,所述基于预设损失函数,根据所述训练样本对所述端到端语义理解模型的框架进行训练,得到端到端语义理解模型,包括:
根据所述第一预测分数、所述第二预测分数、所述第三预测分数以及所述标签信息集合,确定所述预设损失函数对应的损失值;
根据所述损失值,调整所述端到端语义理解模型的框架的参数,直至所述端到端语义理解模型的框架收敛,得到端到端语义理解模型。
6.一种语义理解方法,其特征在于,所述方法包括:
获取待预测文本;
将所述待预测文本输入端到端语义理解模型中,得到所述待预测文本对应的目标语义理解结果;
其中,所述端到端语义理解模型基于如权利要求1至5任一项所述的方法训练得到。
7.一种端到端语义理解模型训练装置,其特征在于,所述装置包括:
样本获取模块,用于获取训练样本,所述训练样本包括自然语言文本、所述自然语言文本对应的关键词集合以及关键词对应的标签信息集合;
框架确定模块,用于定义端到端语义理解模型的框架,基于所述端到端语义理解模型的框架和所述训练样本,生成对应的语义理解结果,所述语义理解结果包括意图识别结果、关键词以及每个关键词对应的标签信息;
模型确定模块,用于基于预设损失函数,根据所述训练样本对所述端到端语义理解模型的框架进行训练,得到端到端语义理解模型。
8.一种语义理解装置,其特征在于,所述装置包括:
文本获取模块,用于获取待预测文本;
结果确定模块,用于将所述待预测文本输入端到端语义理解模型中,得到所述待预测文本对应的目标语义理解结果;
其中,所述端到端语义理解模型基于如权利要求1至5任一项所述的方法训练得到。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于海信视像科技股份有限公司,未经海信视像科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210408734.8/1.html,转载请声明来源钻瓜专利网。