[发明专利]机器翻译模型的训练方法、机器翻译方法、装置及设备

权利要求书

1.一种机器翻译模型的训练方法，其特征在于，所述方法包括：

获取训练样本集，所述训练样本集包括训练样本及所述训练样本对应的标准翻译文本；

将所述训练样本及所述训练样本对应的标准翻译文本输入机器翻译模型中，获取所述机器翻译模型在反向传播过程中产生的梯度向量；

基于所述梯度向量和多个噪音词为所述训练样本生成对抗样本；

基于所述训练样本和所述对抗样本对所述机器翻译模型进行对抗训练，得到目标机器翻译模型。

2.根据权利要求1所述的方法，其特征在于，所述基于所述梯度向量和多个噪音词为所述训练样本生成对抗样本，包括：

对所述训练样本进行采样，根据采样结果得到目标词向量，所述目标词向量为需要被替换的词向量；

从所述多个噪音词的向量空间中获取所述目标词向量对应的至少一个候选词向量；

基于所述梯度向量，从所述至少一个候选词向量中选择所述目标词向量对应的目标候选词向量；

将所述训练样本中的所述目标词向量替换为所述目标候选词向量，得到对抗样本。

3.根据权利要求2所述的方法，其特征在于，所述基于所述梯度向量，从所述至少一个候选词向量中选择所述目标词向量对应的目标候选词向量，包括：

基于所述梯度向量更新所述目标词向量，得到更新词向量；

从所述至少一个候选词向量中，选择与所述更新词向量距离最大的候选词向量作为目标候选词向量。

4.根据权利要求3所述的方法，其特征在于，所述基于所述梯度向量更新所述目标词向量，得到更新词向量，包括：

从所述梯度向量中获取所述目标词向量对应的目标梯度向量；

沿所述目标梯度向量的方向更新所述目标词向量，得到所述更新词向量。

5.根据权利要求1-4任一所述的方法，其特征在于，所述基于所述训练样本和所述对抗样本对所述机器翻译模型进行对抗训练，得到目标机器翻译模型，包括：

获取所述机器翻译模型根据所述训练样本输出的第一预测翻译文本，基于所述第一预测翻译文本与所述标准翻译文本获取第一损失函数值；

获取所述机器翻译模型根据所述对抗样本输出的第二预测翻译文本，基于所述第二预测翻译文本与所述标准翻译文本获取第二损失函数值；

基于所述第一损失函数值和所述第二损失函数值，获取目标损失函数值；

根据所述目标损失函数值对所述机器翻译模型的模型参数和所述对抗样本进行迭代调整，直到满足收敛条件，得到目标机器翻译模型。

6.根据权利要求5所述的方法，其特征在于，所述基于所述第一损失函数值和所述第二损失函数值，获取目标损失函数值，包括：

获取所述第一损失函数值和所述第二损失函数值的加权和，根据所述加权和获取目标损失函数值。

7.根据权利要求5所述的方法，其特征在于，所述根据所述目标损失函数值对所述机器翻译模型的模型参数和所述对抗样本进行迭代调整，直到满足收敛条件，得到目标机器翻译模型，包括：

若所述目标损失函数值大于目标阈值，根据所述目标损失函数值对所述机器翻译模型的模型参数和所述对抗样本进行迭代调整，直到满足收敛条件，得到目标机器翻译模型；

若所述目标损失函数值小于或等于所述目标阈值，满足收敛条件，则将当前模型参数下的机器翻译模型作为所述目标机器翻译模型。

8.一种机器翻译方法，其特征在于，所述方法包括：

获取待翻译内容；

通过机器翻译模型获取所述待翻译内容对应的翻译结果，所述机器翻译模型根据权利要求1至7任一项所述的机器翻译模型的训练方法训练得到。