[发明专利]一种基于强化学习的蒙汉双语种互译方法

摘要

编码器‑解码器架构的神经机器翻译(NMT)在当前的标准机器翻译基准上实现了最佳的结果，但由于训练该模型需要大量平行语料数据，对于少数民族语言翻译领域而言，普遍面临双语对齐语料不足，资源稀少，因此本发明提供一种基于强化学习的蒙汉双语种互译方法。系统接受一个蒙语句子来翻译，生成一个汉语句子，并且得到一个标量分数作为反馈。利用强化学习技术，从反馈中有效地学习。在强化学习中定义解法的数学框架叫做马尔科夫决策过程。目标是找到一个策略使得预期的翻译质量最大化。在训练过程中，如果某个行为策略导致环境大的奖赏，那么以后产生这个行为策略的趋势便会加强，最终找到最优策略以使期望的折扣奖赏和最大，使得翻译质量提高。

主权项

1.一种基于强化学习的蒙汉双语种互译方法，基于编码‑解码架构的神经机器翻译系统，系统接受一个源语言句子a进行翻译，生成一个目标语言句子同时得到一个标量分数作为反馈利用强化学习方法从所述反馈中学习，所述强化学习方法为马尔科夫决策过程，由编码器的编码作为动作，解码器生成的隐藏向量作为状态，进行系统和奖赏机制更新，将更新过程迭代多轮，直至翻译模型收敛，其特征在于，所述编码器和解码器均采用循环神经网络结构，编码器将源语言句子a编码成一个连续向量Φ(a)，作为解码器的初始隐藏向量，解码器执行RNN更新以生成一个隐藏的序列向量(s₁,s₂,...s_t)：s₀＝Φ(a)其中，s_t表示解码器t时刻的隐藏状态，f_θ为循环单元，e(·)表示词向量查找操作，b_t表示双语库中正确的目标语言句子b的第t个词，s_t‑1表示t‑1时刻解码器的隐藏状态，表示t‑1时刻解码器的输出矢量。