[发明专利]序列转换方法及装置

权利要求书

1.一种序列转换方法，其特征在于，包括：

接收源端序列,所述源端序列为文字或者语音或者图像；

将所述源端序列转换为源端向量表示序列；

根据所述源端向量表示序列获取至少两个候选目标端序列，以及所述至少两个候选目标端序列中每一个候选目标端序列的翻译概率值；

对所述每一个候选目标端序列的翻译概率值进行调整；

根据所述每一个候选目标端序列的调整后的翻译概率值，从所述至少两个候选目标端序列中选择输出目标端序列；

输出所述输出目标端序列，所述目标端序列为文字或者语音，其中，所述根据所述源端向量表示序列获取至少两个候选目标端序列包括：

基于注意力机制根据所述源端向量表示序列获取至少两个源端上下文向量；

获取所述至少两个源端上下文向量各自的解码中间状态序列；

获取所述至少两个解码中间状态序列各自的候选目标端序列；

所述对所述每一个候选目标端序列的翻译概率值进行调整包括：

基于所述每一个候选目标端序列的解码中间状态序列对各自的翻译概率值进行调整。

2.根据权利要求1所述的方法，其特征在于，所述至少两个候选目标端序列包括第一候选目标端序列，所述第一候选目标端序列是所述至少两个候选目标端序列中的任意一个；

所述基于所述每一个候选目标端序列的解码中间状态序列对各自的翻译概率值进行调整包括：

基于所述第一候选目标端序列的解码中间状态序列获取所述第一候选目标端序列的重构概率值；

基于所述第一候选目标端序列的重构概率值对所述第一候选目标端序列的翻译概率值进行调整。

3.根据权利要求2所述的方法，其特征在于，所述基于所述第一候选目标端序列的解码中间状态获取所述第一候选目标端序列的重构概率值包括：

基于反向注意力机制获取所述第一候选目标端序列的重构概率值，所述反向注意力机制的输入是所述第一候选目标端序列的解码中间状态序列，所述反向注意力机制的输出是所述第一候选目标端序列的重构概率值。

4.根据权利要求3所述的方法，其特征在于，所述基于反向注意力机制获取所述第一候选目标端序列的重构概率值包括：

根据如下函数获取所述第一候选目标端序列的重构概率值：

其中，g_R()是Softmax函数；

是通过反向注意力机制总结得到的向量，通过如下的函数获取：

其中，是由反向注意力机制输出的对齐概率，通过如下的函数获取：

其中，e_j,k是源端序列中元素的反向注意力机制得分，通过如下的函数获取：

是获取重构概率值时的中间状态，通过如下的函数获取：

x_j是所述源端序列中的元素，J表示所述源端序列中元素的数量；s_i表示所述第一候选目标端序列的解码中间状态序列中的元素，I表示所述第一候选目标端序列的解码中间状态序列中元素的数量；f_R是激活函数，R是重构概率值；γ₁，γ₂和γ₃是参数。

5.根据权利要求4所述的方法，其特征在于，所述参数γ₁，γ₂和γ₃通过端到端学习算法训练获取。

6.根据权利要求5所述的方法，其特征在于，所述参数γ₁，γ₂和γ₃通过如下函数训练获取：

其中，θ和γ是需要训练获取的神经系统的参数，γ表示所述参数γ₁，γ₂或γ₃，N是训练序列集合中训练序列对的数量，X_n是训练序列对中的源端序列，Y_n是训练序列对中的目标端序列，s_n是X_n转换成Y_n时的解码中间状态序列，λ是线性插值。