[发明专利]一种基于动态配置解码的神经机器翻译方法

摘要

本发明的一种基于动态配置解码的神经机器翻译方法，在Transformer模型的基础上增加基于卷积神经网络的决策模型，把编码获得的编码信息作为输入送入决策模型，决策模型对编码信息进行卷积、池化和归一化处理，输出相应的解码配置；根据解码配置用已训练好的解码器进行解码，对选取的解码配置进行打分；根据打分结果采用增强学习的方法来改善决策模型，获得训练好的决策模型；采用训练好的改进的自注意力机制的模型进行翻译，输出准确率较高的翻译译文。本发明使用的决策模型小，训练代价低，其通过在已经训练好的机器翻译模型上以端到端的方式训练得到，而无需重新训练整个机器翻译模型。

主权项

1.一种基于动态配置解码的神经机器翻译方法，其特征在于，包括如下步骤：步骤1：在自注意力机制的Transformer模型的编码器和解码器之间增加决策模型，构成改进的自注意力机制模型，所述决策模型基于卷积神经网络建立；步骤2：输入双语句子级平行数据，分别对源语和目标语进行分词处理，获得分词后的双语平行句对，对改进的自注意力机制模型的编码器和解码器进行训练；步骤3：用训练好的编码器对分词后的双语平行句对的源语句子按时序进行编码，获取隐藏层上每个时序的状态，即每个时序下不同层的编码信息；步骤4：把获得的编码信息作为输入送入决策模型，决策模型对编码信息进行卷积、池化和归一化处理，输出相应的解码配置；步骤5：根据决策模型输出的解码配置使用已经训练好的解码器进行解码，并对选取的解码配置进行打分；步骤6：根据评价标准给出的分数，采用增强学习的方法来改善决策模型，获得训练好的决策模型；步骤7：向改进的自注意力机制的模型的编码器输入源语句，将获得的编码信息送入决策模型，解码器根据决策模型输出的解码配置进行翻译。