[发明专利]文本翻译模型的训练方法、文本翻译方法及装置有效
申请号: | 201910772807.X | 申请日: | 2019-08-21 |
公开(公告)号: | CN110555213B | 公开(公告)日: | 2022-11-11 |
发明(设计)人: | 张睦 | 申请(专利权)人: | 语联网(武汉)信息技术有限公司 |
主分类号: | G06F40/58 | 分类号: | G06F40/58;G06F40/30;G06F40/289;G06F16/35;G06N3/04;G06N3/08 |
代理公司: | 北京路浩知识产权代理有限公司 11002 | 代理人: | 张秀程 |
地址: | 430206 湖北省武汉市东湖新技术开*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 文本 翻译 模型 训练 方法 装置 | ||
本发明实施例提供一种文本翻译模型的训练方法、文本翻译方法及装置,其中训练方法包括:获取平行语料集,所述平行语料集中的每个平行语料包括源语言文本、机翻译文文本、后编辑译文文本和审校译文文本;根据所述平行语料集依次训练第一至第三翻译模型,将训练完成的第三翻译模型作为所述文本翻译模型,所述第一至第三翻译模型共享部分模型参数,并且在先的翻译模型在训练完毕后的模型参数不随在后的翻译模型训练而改变。本发明实施例的训练方法能够取得更好的模型泛化效果,提高模型的泛化能力,最终使得训练得到的翻译结果更加精准。
技术领域
本发明涉及机器翻译技术领域,更具体地,涉及文本翻译模型的训练方法。
背景技术
在后编辑模式下,辅助翻译工具调用翻译模型结果给出一个翻译初稿,再有专业的翻译人员在此基础上进行审校和编辑,产生高质量的译文结果。除此以外,为了保证更好地保证翻译效果,专业的翻译公司往往还会邀请翻译资历更高的审校老师对人工翻译的译文做更精细地一些“润色”。因此,在这整套翻译的工作流程中,所产生的语料包括:待翻译的原文、对应的机器翻译译文、译员后编辑的译文,以及审校老师所“润色”的译文(最终的翻译结果)这四项数据。
很多时候只有原文和最终的译文这两项数据被留存了下来,而中间步骤的译文(机翻译文和后编辑译文)却被忽略。而这无疑是一种数据资源的浪费。
另一方面,翻译模型的解码器在做解码的时候是以从左到右的顺序,一个词接一个词的预测方式来产生译文。在生产下一个词时,解码器会依照原文和已预测的若干词汇为基础(上文),进行预测。这种输出语言的方式和人类书写文本的方式有着很大的不同,当人们在写文本的时候,往往会先写一个草稿,再基于此草稿来对文字进行打磨(类似于审校老师在译员的翻译基础上进行润色),因此机器翻译出的译文和人类书写方式产生的译文存在差距。
发明内容
本发明实施例提供一种克服上述问题或者至少部分地解决上述问题的文本翻译模型的训练方法、文本翻译方法及装置。
第一个方面,本发明实施例提供一种文本翻译模型的训练方法,包括:
获取平行语料集,所述平行语料集中的每个平行语料包括源语言文本、机翻译文文本、后编辑译文文本和审校译文文本;
根据所述平行语料集依次训练第一至第三翻译模型,将训练完成的第三翻译模型作为所述文本翻译模型;
其中,第一翻译模型用于以每个平行语料中的源语言文本为样本,以机翻译文文本为样本标签进行训练;
第二翻译模型用于以每个平行语料中的源语言文本、所述第一翻译模型的输出为样本,以后编辑译文文本为样本标签进行训练;
第三翻译模型以每个平行语料中的源语言文本、所述第一翻译模型的输出和第二翻译模型的输出为样本,以审校译文文本为样本标签进行训练;
所述第一至第三翻译模型共享部分模型参数,并且在先的翻译模型在训练完毕后的模型参数不随在后的翻译模型训练而改变。
优选地,所述第一至第三翻译模型均为循环神经网络模型。
优选地,所述第一至第三翻译模型共享一个编码器,所述第一至第三翻译模型还各自包括一个解码器。
优选地,所述根据所述平行语料集依次训练第一至第三翻译模型,之前还包括:
对每个平行语料进行分词,从预设的双语词向量集中获取对应每个分词的词向量;
其中,所述双语词向量集的获取方法为:
以学习语义知识的神经网络模型分别对预先获取的双语语料集进行训练,获得所述双语语料集中每个分词的词向量,构成双语词向量集,所述双语语料的语言为所述语料集对应的源语言和目标语言。
第二个方面,本发明实施例提供一种文本翻译方法,包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于语联网(武汉)信息技术有限公司,未经语联网(武汉)信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910772807.X/2.html,转载请声明来源钻瓜专利网。