[发明专利]融合成分注意力的非自回归机器翻译方法在审
申请号: | 202111219503.4 | 申请日: | 2021-10-20 |
公开(公告)号: | CN114091482A | 公开(公告)日: | 2022-02-25 |
发明(设计)人: | 余正涛;王帮居;赖华 | 申请(专利权)人: | 昆明理工大学 |
主分类号: | G06F40/58 | 分类号: | G06F40/58;G06F40/211;G06F40/253;G06F40/289;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 昆明人从众知识产权代理有限公司 53204 | 代理人: | 何娇 |
地址: | 650093 云*** | 国省代码: | 云南;53 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 融合 成分 注意力 回归 机器翻译 方法 | ||
1.融合成分注意力的非自回归机器翻译方法,其特征在于:所述方法的具体步骤如下:
Step1、获取实验数据集;
Step2、通过迭代非自回归机器翻译模型第一次生成目标译文;
Step3、使用成分注意力模块获得目标译文的成分注意力矩阵;
Step4、将成分注意力矩阵乘以多头注意力矩阵;
Step5、将相乘后得到的注意力矩阵训练非自回归机器翻译模型得到新的非自回归机器翻译模型;
Step6、迭代多次重复Step2-Step5的过程。
2.根据权利要求1所述融合成分注意力的非自回归机器翻译方法,其特征在于:所述Step1的具体步骤为:
Step1.1、从汉越互译网站爬取的汉越互译文章,通过人工进行筛选并对齐得到平行句对;
Step1.2、WMT机器翻译评测会议网站下载IWSLT14De-En公共数据集。
3.根据权利要求1所述融合成分注意力的非自回归机器翻译方法,其特征在于:所述Step3中,通过估计成分之间的断点,或者两个相邻单词属于同一成分的概率来生成成分注意力矩阵。
4.根据权利要求1所述融合成分注意力的非自回归机器翻译方法,其特征在于:所述Step3中,成分注意力矩阵为C,C中的元素其中,ak为相邻两个词之间的概率。
5.根据权利要求1所述融合成分注意力的非自回归机器翻译方法,其特征在于:所述ak为相邻两个词之间的概率,是基于以下两种机制得到的:相邻注意和层次约束。
6.根据权利要求1所述融合成分注意力的非自回归机器翻译方法,其特征在于:所述Step4中,将多头注意力矩阵与成分注意力矩阵按照对位元素相乘的方法相乘。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于昆明理工大学,未经昆明理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111219503.4/1.html,转载请声明来源钻瓜专利网。