[发明专利]模型训练方法、机器翻译方法以及相关装置和设备有效
申请号: | 201811436794.0 | 申请日: | 2018-11-28 |
公开(公告)号: | CN110162799B | 公开(公告)日: | 2023-08-04 |
发明(设计)人: | 涂兆鹏;李建;王星;王龙跃 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F40/58 | 分类号: | G06F40/58;G06N3/0464;G06N3/045;G06N3/08 |
代理公司: | 北京德琦知识产权代理有限公司 11018 | 代理人: | 刘俊英;陈舒维 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请实施例公开了一种神经网络模型训练方法、装置、设备以及介质,该方法包括:获取包括有训练样本及其对应的标准标签向量的训练样本集;将训练样本输入包括多个注意力网络的神经网络模型;通过神经网络模型对多个注意力网络各自的输出向量进行非线性变换,得到多个注意力网络对应的特征融合向量;获取神经网络模型根据特征融合向量输出预测标签向量,根据预测标签向量与标准标签向量的对比结果,对神经网络模型的模型参数进行调整,直到满足收敛条件,得到目标神经网络模型。采用非线性变换的方式融合各个注意力网络的输出向量,使得各个注意力网络的输出向量充分交互,生成更有信息量的特征融合特征向量,保证最终的输出表示效果更好。 | ||
搜索关键词: | 模型 训练 方法 机器翻译 以及 相关 装置 设备 | ||
【主权项】:
1.一种神经网络模型训练方法,其特征在于,包括:获取训练样本集,所述训练样本集包括训练样本及其对应的标准标签向量;将所述训练样本集中的训练样本输入神经网络模型中,所述神经网络模型包括多个注意力网络;通过所述神经网络模型,对所述多个注意力网络各自的输出向量进行非线性变换,得到所述多个注意力网络对应的特征融合向量;获取所述神经网络模型根据所述特征融合向量输出的训练样本对应的预测标签向量;根据训练样本对应的预测标签向量与标准标签向量的对比结果,对所述神经网络模型的模型参数进行迭代调整,直到满足收敛条件,得到目标神经网络模型。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201811436794.0/,转载请声明来源钻瓜专利网。