[发明专利]一种基于字节对编码技术的蒙汉机器翻译系统

说明书

一种基于字节对编码技术的蒙汉机器翻译系统，首先，使用BPE技术对英汉平行语料以及蒙汉平行语料进行预处理，将英语，蒙古语及汉语单词全部分成单个字符，然后在词的范围内统计字符对出现的次数，每次将出现次数最多的字符对保存起来，直到循环次数结束。其次，利用经过预处理的英汉平行语料基于神经机器翻译框架进行训练。然后，将经过预处理的英汉平行语料训练好的翻译模型参数权重迁移到蒙汉神经机器翻译框架中，利用经过预处理的蒙汉平行语料训练神经机器翻译模型，得到基于字节对编码技术的蒙汉神经机器翻译原型系统。最后，将该系统的翻译译文与统计机器翻译译文就BLEU值进行对比和评价，达到最终提高蒙汉机器翻译性能的目的。

技术领域

本发明属于神经机器翻译技术领域，特别涉及一种基于字节对编码技术的蒙汉机器翻译系统。

背景技术

机器翻译指使用计算机自动地将一种自然语言转化为具有完全相同含义的另一种自然语言的过程。随着经济全球化及互联网的飞速发展，机器翻译技术在促进政治、经济、文化交流等方面起到越来越重要的作用。神经机器翻译采用一种新颖的解决机器翻译问题的系统，并且最近几年发展迅速，取得了许多重要成果。尤其是在翻译的流利度与准确性方面，神经机器翻译与传统的统计机器翻译相比，翻译结果更加顺畅。

但是，神经机器翻译也有一些亟待解决的难点。未登录词翻译是神经机器翻译的主要难点之一。因为神经机器翻译系统为了能够控制计算的复杂度，有着一个固定大小的词汇表，这就导致了其在翻译未登录词时有着严重的不足。由于限定词汇表有大小限制，对于未出现在该词汇表中的词，神经机器翻译系统用UNK标记来替代。然而神经机器翻译系统不仅无法将它们翻译准确，而且破坏了句子的结构特征。而蒙语属于黏着语，句子的结构一旦变化，表达的意思也会随之进行变化，甚至出现严重语病，在使用原有系统进行翻译时，经常由于一个长句中出现未登录词而导致翻译偏差。又由于蒙古语机器翻译研究起步较晚以及蒙古语语法本身复杂性，使得蒙汉翻译过程中出现了大量的未登录词，进而给蒙汉翻译工作带来更多的麻烦。

目前，已经有一些神经机器翻译技术针对低资源语言存在未登录词，无法准确翻译问题被提出。由于蒙-汉翻译过程中过多的未登录词以及蒙古语句子结构本身复杂性使得翻译译文质量并不理想，翻译结果仍存在严重偏差。

发明内容

为了克服上述现有技术的缺点，本发明的目的在于提供一种基于字节对编码技术的蒙汉机器翻译系统，针对蒙-汉翻译过程中过多的未登录词以及蒙古语句子结构本身复杂性使得翻译结果仍存在严重偏差等问题，使用字节对编码技术(BPE)对英汉平行语料以及蒙汉平行语料进行预处理，将英语，蒙古语及汉语单词全部分成单个字符，在词的范围内统计字符对出现的次数，每次将出现次数最多的字符对保存起来。从而极大地保存了句子的结构特征和流畅性，降低了蒙汉翻译中蒙语未登录词个数，解决了蒙语中存在大量未登录词问题。然后利用经过BPE技术预处理的英汉平行语料基于神经机器翻译框架进行训练。再将经过BPE技术预处理的英汉平行语料训练好的翻译模型参数权重迁移到蒙汉神经机器翻译框架中，利用经过BPE技术预处理的蒙汉平行语料训练神经机器翻译模型，进而较大提升蒙汉机器翻译性能。

为了实现上述目的，本发明采用的技术方案是：

一种基于字节对编码技术的蒙汉机器翻译系统，其过程为：

首先，使用字节对编码技术(BPE)对英汉平行语料以及蒙汉平行语料进行预处理，将英语、蒙古语及汉语单词全部分成单个字符，然后在词的范围内统计字符对出现的次数，每次将出现次数最多的字符对保存起来，直到循环次数结束；

其次，利用经过BPE技术预处理的英汉平行语料基于神经机器翻译框架进行训练；

然后，将训练好的翻译模型参数权重迁移到蒙汉神经机器翻译框架中，利用经过BPE技术预处理的蒙汉平行语料基于神经机器翻译框架进行训练，得到基于字节对编码技术的蒙汉神经机器翻译原型系统；