[发明专利]一种基于特征金字塔的神经机器翻译方法在审
申请号: | 202210073567.6 | 申请日: | 2022-01-21 |
公开(公告)号: | CN114528854A | 公开(公告)日: | 2022-05-24 |
发明(设计)人: | 毕东;付舒 | 申请(专利权)人: | 沈阳雅译网络技术有限公司 |
主分类号: | G06F40/58 | 分类号: | G06F40/58;G06N3/04;G06N3/08 |
代理公司: | 沈阳新科知识产权代理事务所(特殊普通合伙) 21117 | 代理人: | 李晓光 |
地址: | 110004 辽宁省沈阳市*** | 国省代码: | 辽宁;21 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开一种基于特征金字塔的神经机器翻译方法,步骤为:将预处理后的源语言输入送入翻译模型的编码器端编码成不同维度的上下文向量;编码器的隐层维度在前馈过程中成金字塔型缩放并分为不同子块;在编解码器注意力权重的计算过程中,对不同维度的编码键向量和解码查询向量进行不同尺度的多头分割;将不同维度的编解码注意力计算结果加权平均,得到最终的编解码器注意力输出向量,解码器通过堆叠的解码器层将源语上下文向量解码成目标语译文,并通过交叉熵损失函数进行梯度更新,优化翻译模型的权重。本发明降低了编解码器注意力计算中的冗余计算,解决了编解码注意力计算中维度不一致问题,有效融合不同尺度的源语特征,提高模型的翻译质量。 | ||
搜索关键词: | 一种 基于 特征 金字塔 神经 机器翻译 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于沈阳雅译网络技术有限公司,未经沈阳雅译网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202210073567.6/,转载请声明来源钻瓜专利网。