[发明专利]一种训练翻译模型的方法和设备

权利要求书

1.一种训练翻译模型的方法，其特征在于，包括：

获取多个单语种模型及多个单领域模型；

对所有的所述单语种模型与所有的所述单领域模型分别进行裁剪，得到多个裁剪模型；

对各所述裁剪模型中的有用分支的权值赋值为第一值，且对各所述裁剪模型中的无用分支的权值赋值为第二值，以得到各所述裁剪模型的Mask矩阵；所述第一值与所述第二值不同；

汇总各所述Mask矩阵得到LDMask矩阵；

对所述LDMask矩阵进行多语种与多领域的联合训练，得到多语种与多领域的翻译模型。

2.如权利要求1所述的方法，其特征在于，多个所述单语种模型是分别通过不同语种的训练数据对同一初始翻译模型进行训练得到的；

多个所述单领域模型是分别通过不同领域的训练数据对同一所述初始翻译模型进行训练得到的。

3.如权利要求1所述的方法，其特征在于，所述裁剪用于基于预设稀疏率去除所述无用分支。

4.如权利要求1所述的方法，其特征在于，

所述单语种模型的效果与对所述单语种模型进行裁剪后的所述裁剪模型的效果相同；

所述单领域模型的效果与对所述单领域模型进行裁剪后的所述裁剪模型的效果相同。

5.如权利要求1所述的方法，其特征在于，所述LDMask矩阵中的横坐标对应各所述裁剪模型，所述LDMask矩阵中的纵坐标对应有用分支与无用分支两者的权值；

所述“对所述LDMask矩阵进行多语种与多领域的联合训练，得到多语种与多领域的翻译模型”，包括：

确定待训练任务，并确定所述待训练任务对应的所述裁剪模型；

根据确定的所述裁剪模型以及所述LDMask矩阵中权值的分布情况确定参与训练的有用分支；

基于确定的所述有用分支进行多语种与多领域的联合训练，得到对应所述待训练任务的多语种与多领域的翻译模型。

6.一种训练翻译模型的设备，其特征在于，包括：

获取模块，用于获取多个单语种模型及多个单领域模型；

裁剪模块，用于对所有的所述单语种模型与所有的所述单领域模型分别进行裁剪，得到多个裁剪模型；

赋值模块，用于对各所述裁剪模型中的有用分支的权值赋值为第一值，且对各所述裁剪模型中的无用分支的权值赋值为第二值，以得到各所述裁剪模型的Mask矩阵；所述第一值与所述第二值不同；

汇总模块，用于汇总各所述Mask矩阵得到LDMask矩阵；

训练模块，用于对所述LDMask矩阵进行多语种与多领域的联合训练，得到多语种与多领域的翻译模型。

7.如权利要求6所述的设备，其特征在于，多个所述单语种模型是分别通过不同语种的训练数据对同一初始翻译模型进行训练得到的；

多个所述单领域模型是分别通过不同领域的训练数据对同一所述初始翻译模型进行训练得到的。

8.如权利要求6所述的设备，其特征在于，所述裁剪用于基于预设稀疏率去除所述无用分支。

9.如权利要求6所述的设备，其特征在于，

所述单语种模型的效果与对所述单语种模型进行裁剪后的所述裁剪模型的效果相同；

所述单领域模型的效果与对所述单领域模型进行裁剪后的所述裁剪模型的效果相同。

10.如权利要求6所述的设备，其特征在于，所述LDMask矩阵中的横坐标对应各所述裁剪模型，所述LDMask矩阵中的纵坐标对应有用分支与无用分支两者的权值；

所述训练模块，用于：

确定待训练任务，并确定所述待训练任务对应的所述裁剪模型；

根据确定的所述裁剪模型以及所述LDMask矩阵中权值的分布情况确定参与训练的有用分支；

基于确定的所述有用分支进行多语种与多领域的联合训练，得到对应所述待训练任务的多语种与多领域的翻译模型。