[发明专利]神经机器翻译模型训练方法、神经机器翻译方法及装置在审
申请号: | 201910054869.7 | 申请日: | 2019-01-21 |
公开(公告)号: | CN111539229A | 公开(公告)日: | 2020-08-14 |
发明(设计)人: | 张家俊;周玉;闫璟辉;宗成庆;杨里 | 申请(专利权)人: | 波音公司;中国科学院自动化研究所 |
主分类号: | G06F40/58 | 分类号: | G06F40/58;G06F40/56;G06F40/295;G06F40/242 |
代理公司: | 北京康信知识产权代理有限责任公司 11240 | 代理人: | 梁丽超;潘树志 |
地址: | 美国伊*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经 机器翻译 模型 训练 方法 装置 | ||
1.一种神经机器翻译方法,其特征在于,包括:
识别待翻译的源语句中的命名实体;
用与所述命名实体的类别对应的标签替换所识别的命名实体,获得中间源语句;
通过神经机器翻译模型翻译所述中间源语句,获得带有所述标签的中间目标语句;
从预置的命名实体词典和/或命名实体库查找所述命名实体的译文;以及
用查找到的所述译文替换所述中间目标语句中相应的标签,获得与所述待翻译的源语句对应的目标语句。
2.根据权利要求1所述的神经机器翻译方法,其特征在于:
在未能从所述预置的命名实体词典和/或命名实体库找到所述命名实体的译文时,用外部命名实体翻译模型翻译所述命名实体,并用所述命名实体的翻译结果替换所述中间目标语句中相应的标签,其中,所述外部命名实体翻译模型是通过所述命名实体库加上所述命名实体词典作为训练数据对神经机器模型框架进行训练而创建的。
3.根据权利要求2所述的神经机器翻译方法,其特征在于,所述用外部命名实体翻译模型翻译所述命名实体,并用所述命名实体的翻译结果替换所述中间目标语句中相应的标签包括:
将所述命名实体切分为以字符为粒度的待翻译字符串并进行翻译解码,将翻译结果恢复为原粒度后再将该翻译结果与所述中间目标语句中相应的标签进行替换。
4.根据权利要求2所述的神经机器翻译方法,其特征在于,所述外部命名实体翻译模型通过以下方式被创建:
将所述命名实体库和所述命名实体词典中的命名实体切分为以字符为粒度的字符串,用所述字符串来训练神经机器翻译模型框架,生成所述外部命名实体翻译模型。
5.根据权利要求4所述的神经机器翻译方法,其特征在于,在所述命名实体库中的命名实体切分为以字符为粒度的字符串之前,还包括:
将所述命名实体库中源端与目标端之间存在一对多的译文关系的命名实体拆分为一对一关系;以及
用拆分后的所述命名实体训练所述神经机器翻译模型框架,以生成所述外部命名实体翻译模型。
6.根据权利要求1所述的神经机器翻译方法,其特征在于,
在用与所识别的命名实体的类别对应的标签替换所识别的命名实体之后还包括:将被替换的所述命名实体按顺序保存;以及记录被替换的所述命名实体在所述源语句中的位置;
所述用查找到的所述译文替换所述中间目标语句中相应的标签包括:根据所述位置用所述译文替换所述中间目标语句中相应的标签。
7.根据权利要求1所述的神经机器翻译方法,其特征在于,通过以下方式生成所述预置的命名实体词典:
识别双语训练语句中的命名实体,并在所述双语训练语句中为所识别的命名实体添加标签;
对添加标签的所述双语训练语句进行基于统计的机器翻译SMT训练,得到短语表,所述短语表中包含双语平行短语之间的翻译概率;
筛选出翻译概率大于预定概率阈值的带有同种类命名实体标签的平行实体翻译词对;
在所述双语训练语句中查找所筛选出的所述平行实体翻译词对;以及
将所找到的平行命名实体翻译对输出,形成所述命名实体词典。
8.根据权利要求7所述的神经机器翻译方法,其特征在于,对添加标签的所述双语训练语句进行SMT训练包括:
在识别所述命名实体之后,对于由两个以上的词组成的命名实体,在各个词之间加入连接标识符;以及
对所有命名实体进行词对齐处理。
9.根据权利要求1所述的神经机器翻译方法,其特征在于,在替换所识别的命名实体之前还包括:
将待替换的所述命名实体对按长度排序,之后按照先长后短的顺序进行替换。
10.根据权利要求1至9中任一项所述的神经机器翻译方法,其特征在于,所述命名实体词典和/或命名实体库中存储有平行的双语命名实体对。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于波音公司;中国科学院自动化研究所,未经波音公司;中国科学院自动化研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910054869.7/1.html,转载请声明来源钻瓜专利网。