[发明专利]面向神经机器翻译的省略代词翻译方法

说明书

本发明涉及一种利用神经机器翻译系统进行省略代词的语料处理方法，应用在基于注意力机制且采用encoder‑decoder框架的NMT模型，包括：获取原始语料；对获取的语料进行词对齐，获得缺失代词的大概位置；将所有可能的代词放入到所有可能的缺失的位置；利用语言模型挑选最合适的代词和最合适的位置；再次进行词对齐，将补充缺失代词的位置换成相应目标语句中的代词；利用补充好的训练语料训练SequenceLabeling标注模型。上述利用神经机器翻译系统进行省略代词的语料处理方法，既能自动补充源语句中省略的代词，又能够避免利用源端语言补充源语句缺失代词后所产生的歧义，从而有效的提高翻译质量。还涉及一种利用神经机器翻译系统的翻译方法。

技术领域

本发明涉及神经机器翻译，特别是涉及面向神经机器翻译的省略代词翻译方法。

背景技术

随着计算机计算能力的提高以及大数据的应用，深度学习取得进一步的应用。基于深度学习的Neural Machine Translation越来越受到人们的关注。在NMT领域中，最常用的一种翻译模型是带有注意力机制(attention-based)的encoder-decoder模型。其主要思想是将待翻译的语句(在下文中统称为‘源语句’)经过编码器(encoder)编码成为一个向量表示，然后利用解码器(decoder)对源语句的向量表示进行解码，翻译成为其对应的译文(在下文中统称为‘目标语句’)。尽管基于深度学习的Neural Machine Translation在一定程度上能够很好的翻译源语句，但是对于将一种习惯性省略代词的口语句子翻译到另一种非省略代词的语言上却表现的不是那么出色，例如，我们经常会说中文“吃了吗？”，而对应的英文应该是“have you eaten？”，但是实际用一般的带有注意力机制(attention-based)的encoder-decoder模型翻译出来的句子却是“eaten？”，像这种省略代词的口语句子的翻译，因为在中文中省略了‘你’，而英文却没有省略的习惯，因此利用机器进行翻译会大大降低译文的流畅度和可读性，从而影响翻译质量。

现有的解决这一类问题的方法有如下2种：

1.人工补齐源语句中省略的代词；

2.自动的用源端语言补充源语句中省略的代词，具体方法如下：

首先，利用词对齐(将两个句子中的词进行一一对应)将源语句和目标语句进行对齐操作，以此来获得缺失代词的大致位置；然后，将所有可能的代词填充到所有可能的缺失位置；最后，利用语言模型(判断一个句子是否具备正常语句的流畅度，困惑度越小，则越接近自然语言)来挑选最适合补充的代词及位置。

然后利用以上两种方法处理过的语料通过前述的带有注意力机制(attention-based)的encoder-decoder模型进行翻译。

对于现有两类技术的缺点：

第一种(即人工补充)：耗时，耗力，且处理的语料数量有限。

第二种(即自动补充)：尽管这一类解决方法可以解决人工补充所带来的缺点，但是，这种补充方法补充过的代词在进行翻译时易造成歧义，即：对于补充的中文代词‘我’，在翻译到英文时可以是‘I’或‘me’，由这种一对多的词语产生的歧义会使得翻译质量下降。

发明内容

鉴于以上技术存在的缺点，因此，为解决这一问题，我们提出了一种方法，既能自动补充源语句中省略的代词，又能够避免利用源端语言补充源语句缺失代词后所产生的歧义，从而有效的提高翻译质量。

一种利用神经机器翻译系统进行省略代词的语料处理方法，应用在基于注意力机制且采用encoder-decoder框架的NMT模型，包括：

获取原始语料；

对获取的语料进行词对齐，获得缺失代词的大概位置；

将所有可能的代词放入到所有可能的缺失的位置；