[发明专利]融入依存关系的神经机器翻译方法有效
申请号: | 201810785646.3 | 申请日: | 2018-07-17 |
公开(公告)号: | CN109062907B | 公开(公告)日: | 2022-07-12 |
发明(设计)人: | 段湘煜;王坤;张民 | 申请(专利权)人: | 苏州大学 |
主分类号: | G06F40/47 | 分类号: | G06F40/47 |
代理公司: | 苏州市中南伟业知识产权代理事务所(普通合伙) 32257 | 代理人: | 冯瑞 |
地址: | 215000 *** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 融入 依存 关系 神经 机器翻译 方法 | ||
1.一种融入依存关系的神经机器翻译方法,其特征在于,包括:
获取训练数据,基于训练数据解析出源端句子的依存树,确定源端句子词与词之间的关联性信息;
基于所述关联性信息,确定依存关联性损失Δdep,采用如下公式计算句对(X,Y)的网络整体损失:
loss=-logP(Y|X)+Δdep
其中,-logP(Y|X)是交叉熵损失,Δdep是依存关联性损失;
计算目标端j时刻单词对应源端i时刻单词注意力权重,在计算得到源端隐藏层基础上,添加自注意力机制,
其中,W′a,U′a是可训练参数;
通过指导α′ji的分布来指导源端注意力层,通过以下公式实现依存树关联性指导Δdep:
其中,X为源端句子长度,{i,...i′}为源端第j个单词对应的存在依存关系的索引。
2.根据权利要求1所述的融入依存关系的神经机器翻译方法,其特征在于,依存树使用的是斯坦福大学的开源代码:stanford parser,使用默认配置获得源端依存树数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州大学,未经苏州大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810785646.3/1.html,转载请声明来源钻瓜专利网。
- 上一篇:程序语言资源的翻译方法及装置
- 下一篇:一种专用翻译器