[发明专利]一种基于数据增强的蒙汉神经机器翻译方法

说明书

一种基于数据增强的蒙汉神经机器翻译方法，使用数据增强的方法对现有的蒙汉平行语料库和现有的单语语料库进行数据增强，得到蒙汉伪平行语料库C1和伪汉语单语语料库H1；将C1和H1分别进行筛选得到更高质量的蒙汉伪平行语料库C2和伪汉语单语语料库H2，用于优化模型；构建三个蒙汉翻译模型T1、T2、T3；利用T1、T2、T3分别对蒙语单语语句翻译，每个翻译模型学习另外两个翻译模型学习到的特征，实现模型优化过程，得到模型T；利用C2和H2得到新的loss值，将模型T进行优化；即可利用优化得到的模型进行蒙汉翻译，本发明通过对数据集增强，得到了一个翻译效果较好的模型。

技术领域

本发明属于人工智能技术领域，涉及语言的机器翻译，特别涉及一种基于数据增强的蒙汉神经机器翻译方法。

背景技术

在应用于蒙汉平行语料库较少的情况，但是数据对于机器翻译领域又是相当重要的前提下，提出一种通过增强原始数据集的方法或者是通过语义树的建立来得到一组新的平行的语句。

发明内容

为了克服上述语料集匮乏对于蒙汉神经机器翻译下的影响，本发明的目的在于提供一种基于数据增强的蒙汉神经机器翻译方法，通过对数据集增强得到一个翻译效果较好的模型。

为了实现上述目的，本发明采用的技术方案是：

一种基于数据增强的蒙汉神经机器翻译方法，包括：

第一步：使用数据增强的方法对现有的蒙汉平行语料库和现有的单语语料库进行数据增强，得到蒙汉伪平行语料库C1和伪汉语单语语料库H1；

第二步：将得到的蒙汉伪平行语料库C1和伪汉语单语语料库H1分别进行筛选得到更高质量的蒙汉伪平行语料库C2和伪汉语单语语料库H2，用于优化模型；

第三步：构建三个蒙汉翻译模型T1、T2、T3；

第四步：利用T1、T2、T3分别对蒙语单语语句翻译，每个翻译模型学习另外两个翻译模型学习到的特征，实现模型优化过程，得到模型T；

第五步：利用蒙汉伪平行语料库C2和伪汉语单语语料库H2得到新的loss值，将模型T进行优化；

第六步：利用优化得到的模型进行蒙汉翻译。

所述第一步中，进行数据增强方法为：

(1)通过改变句子达到扩充蒙汉平行语料库的目的，将原有的语句设为变量S＝{x1,x2,x3…xn}，对句子原有的词语进行替换、删减以及改变位置的操作，对原有的语句进行扩充，得到蒙汉伪平行语料库a1，其中xn代表的是语句的每一个词语，n是语句中词的位置；

(2)通过对上下文词语的预测对当前的蒙汉平行语料库中的汉语进行词语的替换得到蒙汉伪平行语料库a2；

(3)利用对抗神经网络训练一个生成器和鉴别器，鉴别器利用翻译效果不好的蒙汉语句对，进行进一步的训练得到一个可以针对训练效果较差的语句进行翻译的生成器，对训练效果较差的语句进行进一步充分的学习，从而得到蒙汉伪平行语料库a3，其中所述训练效果较差的语句指当前的语句对在模型中的loss值依然高于设定值；

(4)利用数据训练一个蒙语的图片描述模型和一个汉语图片描述模型，得到模型后对同一个图片的描述将得到蒙汉伪平行语料库a4；

(5)通过预训练的BERT模型进行微调对蒙汉翻译中的遮蔽词语进行预测，得到新的蒙汉伪平行语料库a5；

(6)利用字典得到蒙汉对应的词语，使用语义树将词语进行组合，得到蒙汉伪平行语料库a6；

将上述(1)～(6)得到的蒙汉伪平行语料库a1～a6放入到同一个文件中，整合为伪平行语料库C1；