[发明专利]一种融合迁移学习的伪平行语料库的蒙汉机器翻译方法

说明书

一种融合迁移学习的伪平行语料库的蒙汉机器翻译方法，通过大规模的英汉平行语料库训练一个英汉神经机器翻译模型；对蒙古语进行预处理后构建蒙汉神经机器翻译模型；将训练好的英汉神经机器翻译模型的模型参数权重迁移到蒙汉神经机器翻译模型中；将现有的蒙汉平行语料库对蒙汉神经机器翻译模型进行完善训练，用完善好的蒙汉神经机器翻译模型对现有的蒙汉平行语料库中的汉语单语语料进行回译、加噪，形成一个伪平行语料库D1；将伪平行语料库D1和现有的蒙汉平行语料库融合形成伪平行语料库D；用伪平行语料库D重新训练完善好的蒙汉神经机器翻译模型，得到最终的蒙汉神经机器翻译模型；利用所述最终的蒙汉神经机器翻译模型进行蒙汉翻译。

技术领域

本发明属于机器翻译技术领域，特别涉及一种融合迁移学习的伪平行语料库的蒙汉机器翻译方法。

背景技术

机器翻译又称为自动翻译，是利用计算机把一种自然源语言转变为另一种自然目标语言的过程，一般指自然语言之间词句和全文的翻译。

近些年来机器翻译迅速发展，但是想要训练出高效准确的翻译模型就必须依赖大规模的平行语料库。而蒙汉翻译平行语料库规模较小，训练出来的模型不够理想。那么选择恰当的方法增加平行语料库的规模就成了提高蒙汉机器翻译的一个亟待解决的问题。

发明内容

为了克服上述现有技术的缺点，本发明的目的在于提供一种融合迁移学习的伪平行语料库的蒙汉机器翻译方法，采用迁移学习，回译，加噪等方式构造伪平行语料库，再基于伪平行语料库进行训练得到翻译模型。

为了实现上述目的，本发明采用的技术方案是：

一种融合迁移学习的伪平行语料库的蒙汉机器翻译方法，包括如下步骤：

步骤1，使用双注意力机制使得模型对语料库有更好的特征提取，通过大规模的英汉平行语料库训练一个英汉神经机器翻译模型；对蒙古语进行预处理后构建蒙汉神经机器翻译模型；

步骤2，将训练好的英汉神经机器翻译模型的模型参数权重迁移到蒙汉神经机器翻译模型中；

步骤3，将现有的蒙汉平行语料库对蒙汉神经机器翻译模型进行完善训练，用完善好的蒙汉神经机器翻译模型对现有的蒙汉平行语料库中的汉语单语语料进行回译、加噪，形成一个伪平行语料库D1；

步骤4，将伪平行语料库D1和现有的蒙汉平行语料库融合形成伪平行语料库D；

步骤5，用伪平行语料库D重新训练完善好的蒙汉神经机器翻译模型，得到最终的蒙汉神经机器翻译模型；

步骤6，利用所述最终的蒙汉神经机器翻译模型进行蒙汉翻译。

优选地，所述步骤1中构建英汉神经机器翻译模型时，对数据进行如下预处理操作：

1)用中文分词工具对中文语料进行分词操作；

2)用英文预处理工具对英文语料进行词性标注和分词操作。

优选地，所述步骤1中构建英汉神经机器翻译模型时，对于登录词，基于前缀词典实现词图扫描，生成句子中汉字所有可能成词情况所构成的有向无环图(DAG)，根据动态规划查找最大概率路径，找出基于此的最大切分组合；对于未登录词，采用基于汉字成词能力的HMM模型，使用Viterbi算法，将中文词汇按照BEMS四个状态来标记，B是开始位置，E是结束位置，M是中间位置，S是单独成词位置。

所述步骤1中，分别从词级别和特征级别两种视角提取出评论文本中的重要信息。词注意力机制通过融合词的上下文信息，衡量单词的重要性，过滤出相对于全局重要的单词，同时增加推荐的可解释性。特征突显机制通过抑制相似通道，捕捉特征通道中独立性较强的通道。从而提高模型对评论文本中的重要信息的关注，使其具有更好的特征提取能力。