[发明专利]用于训练深层神经机器翻译模型的方法及装置有效
| 申请号： | 201910528250.5 | 申请日： | 2019-06-18 |
| 公开（公告）号： | CN110263352B | 公开（公告）日： | 2023-04-07 |
| 发明（设计）人： | 黄辉;刘学博;周沁 | 申请（专利权）人： | 澳门大学;珠海澳大科技研究院 |
| 主分类号： | G06F40/58 | 分类号： | G06F40/58;G06N3/045;G06N3/0499;G06N3/084 |
| 代理公司： | 北京路浩知识产权代理有限公司 11002 | 代理人： | 马瑞 |
| 地址： | 中国澳门*** | 国省代码： | 暂无信息 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明实施例提供一种用于训练深层神经机器翻译模型的方法及装置，该方法包括：根据训练样本得到第一联合输入表示，训练样本包括源语句和目标语句；将第一联合输入表示输入到M层顺次连接的训练网络，得到最终的输出表示；其中，每层训练网络中，包括顺次连接的自‑交叉注意力网络和前馈网络；根据最终的输出表示及目标语句，利用反向传播算法更新模型训练参数。本发明实施例提供的用于训练深层神经机器翻译模型的方法及装置，通过利用M层顺次连接的、由自‑交叉注意力网络和前馈网络构成的训练网络进行深层神经机器翻译模型的训练，具有平滑的梯度流，实现了深层神经机器翻译模型的训练，从而提升了神经机器翻译模型的翻译效果。 | ||
| 搜索关键词： | 用于 训练 深层 神经 机器翻译 模型 方法 装置 | ||
【主权项】：
1.一种用于训练深层神经机器翻译模型的方法，其特征在于，包括：根据训练样本得到第一联合输入表示，所述训练样本包括源语句和目标语句；将所述第一联合输入表示输入到M层顺次连接的训练网络，得到最终的输出表示；其中，每层所述训练网络中，包括顺次连接的自‑交叉注意力网络和前馈网络；根据所述最终的输出表示及所述目标语句，利用反向传播算法更新模型训练参数。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于澳门大学;珠海澳大科技研究院，未经澳门大学;珠海澳大科技研究院许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201910528250.5/，转载请声明来源钻瓜专利网。
- 上一篇：一种网页的多语言翻译方法、装置及设备
- 下一篇：一种机器翻译方法及装置
