[发明专利]基于神经网络模型的翻译方法及装置

说明书

技术领域

本发明涉及机器翻译技术领域，尤其涉及一种基于神经网络模型的翻译方法及装置。

背景技术

近年来，循环神经网络(Recurrent Neural Network，RNN)技术被广泛应用于机器翻译领域。与传统的统计机器翻译系统相比，基于循环神经网络的机器翻译系统能够充分利用全局语义信息，翻译质量显著提升。

然而，基于循环神经网络的机器翻译技术也存在着明显的不足之处：

一、词表受限。

通常，RNN翻译模型仅能使用一个数量有限的单词词表(通常三万单词以内)，导致词表外单词(Out-of-vocabulary，OOV)无法翻译。

二、RNN翻译模型仅支持双语语句对进行训练，难以利用可有效提高翻译结果流利度的目标语言单语语料进行训练。

三、无法增加或丰富更多的特征。

具体来说，传统的统计机器翻译方法是基于多种特征执行翻译处理的，对于每一个翻译单元(单词、短语、翻译规则等)均计算每个特征的得分，最终结合多个特征的得分来确定最优翻译结果。然而，这些能够提高翻译质量的特征无法直接为RNN翻译模型所用。

四、漏词现象严重，易生成较短翻译结果，影响翻译结果的可读性。

发明内容

本发明实施例的目的在于，提供一种基于神经网络模型的翻译方法及装置，结合多种翻译特征执行翻译，以提高翻译结果的翻译准确性。

为实现上述发明目的，本发明的实施例提供了一种基于神经网络模型的翻译方法，包括：获取源语言的语句；将所述源语言的语句进行编码，得到向量序列；基于所述向量序列逐词地预测目标语言中相应的候选词；根据预测得到的候选词生成目标语言的语句，其中，在任一所述候选词的预测处理中，从预设的翻译词表中获取多个初选词，并且基于对数线性模型计算每个所述初选词的翻译概率，以根据所述翻译概率从所述多个初选词选取所述候选词，所述对数线性模型根据神经网络翻译模型的翻译特征和统计机器翻译模型的翻译特征建立的。

优选地，所述从预设的翻译词表中获取多个初选词，并且基于对数线性模型计算每个所述初选词的翻译概率，以根据所述翻译概率从所述多个初选词选取所述候选词的处理包括：从预设的翻译词表中获取M个词语作为初选词，M为正整数；根据所述向量序列和在获取M个初选词之前预测出的候选词，计算每个所述初选词的神经网络翻译模型的翻译特征；计算每个所述初选词的统计机器翻译模型的翻译特征；根据计算得到的神经网络翻译模型的翻译特征和统计机器翻译模型的翻译特征，结合所述对数线性模型计算每个所述初选词的翻译概率值；对计算得到的M个翻译概率值进行排序，并将与前N位的翻译概率值相应的初选词选取为所述候选词，N为正整数，且N＜M。

优选地，所述基于所述向量序列逐词地预测目标语言中相应的候选词的处理还包括：依据所述神经网络翻译模型的翻译特征标记所述候选词之间的关联关系，所述根据预测得到的候选词生成目标语言的语句的处理包括：根据具有关联关系的所有候选词生成目标语言的语句。

优选地，所述统计机器翻译模型的翻译特征包括双向单词翻译模型特征。

优选地，所述统计机器翻译模型的翻译特征还包括N元语言模型特征和/或词惩罚特征。

优选地，所述将所述源语言的语句进行编码得到向量序列的处理包括：对源语言的语句进行分词，将分得的多个分词分别转换成与每个所述分词对应的词向量，由多个分词各自对应的词向量得到所述向量序列。

优选地，所述获取源语言的语句的处理包括以下处理之一：接收文本数据，并将所述文本数据作为所述源语言的语句；接收语音数据，对所述语音数据进行语音识别得到经语音识别的文本数据，并将所述经语音识别的文本数据作为所述源语言的语句；接收图片数据，对所述图片数据进行光学字符识别OCR得到经OCR识别的文本数据，并将所述经OCR识别的文本数据作为所述源语言的语句。

本发明的实施例还提供了一种基于神经网络模型的翻译装置，包括：语句获取模块，用于获取源语言的语句；语句编码模块，用于将所述源语言的语句进行编码得到向量序列；候选词预测模块，用于基于所述向量序列逐词地预测目标语言中相应的候选词；语句生成模块，用于根据预测得到的候选词生成目标语言的语句，其中，在任一所述候选词的预测处理中，从预设的翻译词表中获取多个初选词，并且基于对数线性模型计算每个所述初选词的翻译概率，以根据所述翻译概率从所述多个初选词选取所述候选词，所述对数线性模型根据神经网络翻译模型的翻译特征和统计机器翻译模型的翻译特征建立的。