[发明专利]模型训练方法、翻译方法、相关装置、设备及存储介质

权利要求书

1.一种神经网络模型训练的方法，其特征在于，包括：

获取训练样本集合，所述训练样本集合中包括多个训练样本对，其中每个训练样本对包括输入样本和输出样本；

通过初始神经网络模型的向量转换层，将输入样本转换为第一输入向量，所述初始神经网络模型还包括多个注意力网络、非线性变换层和协同路由网络；

通过多个注意力网络中的每个注意力网络，将所述第一输入向量转换为与所述每个注意力网络对应的第一输出向量；

通过非线性变换层，将每个第一输出向量分别线性变换为对应的第二输入向量；

通过协同路由网络，根据每个第二输入向量对应的投票向量确定对应的第二输出向量，并将每个第二输出向量进行拼接，以得到目标输出向量；

根据所述目标输出向量与所述输出样本对应向量的比对结果，对所述初始神经网络模型的参考参数进行迭代调整直到满足收敛条件，以得到目标神经网络模型。

2.根据权利要求1所述的方法，其特征在于，所述通过非线性变换层，将每个第一输出向量分别线性变换为对应的第二输入向量，包括：

通过所述非线性变换层，对每个第一输出向量采用不同的非线性函数对所述第一输出向量进行计算，以确定与该第一输出向量对应的第二输入向量。

3.根据权利要求1或2所述的方法，其特征在于，所述通过协同路由网络，根据每个第二输入向量对应的投票向量确定对应的第二输出向量，并将每个第二输出向量进行拼接，以得到目标输出向量，包括：

通过协同路由网络，分别生成与所述每个第二输入向量对应的投票向量，所述投票向量用于表示所述每个第二输入向量传递到对应的第二输出向量的比例；

通过所述每个第二输入向量对应的投票向量和协同权重，确定对应的第二输出向量，所述协同权重用于表示所述第二输出向量与对应的投票向量之间的协同度；

将每个第二输出向量进行拼接，以得到目标输出向量。

4.根据权利要求3所述的方法，其特征在于，所述通过所述每个第二输入向量对应的投票向量和协同权重，确定对应的第二输出向量之前，所述方法还包括：

确定所述第二输出向量与对应的投票向量之间的协同权重。

5.根据权利要求4所述的方法，其特征在于，所述确定所述第二输出向量与对应的投票向量之间的协同权重，包括：

根据投票向量的权重，确定该投票向量与所述第二输出向量之间的协同权重。

6.根据权利要求4所述的方法，其特征在于，所述确定所述第二输出向量与对应的投票向量之间的协同权重，包括：

通过更新所述第二输出向量的均值、方差和激活概率，确定所述第二输出向量与对应的投票向量之间的协同权重，所述均值、所述方差和所述激活概率与所述第二输出向量对应的投票向量和所述协同权重相关联。

7.一种机器翻译方法，其特征在于，包括：

获取待翻译内容；

通过机器翻译模型获得所述待翻译内容对应的翻译结果，所述机器翻译模型为根据上述权利要求1至6任一项所述的模型训练方式训练得到的目标神经网络模型；

显示所述翻译结果。