[发明专利]一种基于联邦迁移学习的模型训练方法及计算节点

权利要求书

1.一种基于联邦迁移学习的模型训练方法，其特征在于，包括：

在第一计算节点上的第一模型参数值和第二模型参数值保持不变的情况下，所述第一计算节点采用所述第一计算节点上的第一数据集训练所述第一计算节点上的第三模型，以得到所述第一计算节点上的第三模型参数值，所述第一模型参数值、所述第二模型参数值、所述第三模型参数值分别为所述第一计算节点上的第一模型、第二模型、第三模型的模型参数取值，其中，所述第一模型用于对输入数据进行特征提取，所述第二模型用于基于所述第一模型提取出的特征执行目标任务，所述第三模型用于鉴别由所述第一模型提取出的特征的源域；

所述第一计算节点接收第一聚合参数值，所述第一聚合参数值基于所述第三模型参数值以及第四模型参数值得到，所述第四模型参数值为第二计算节点上的第三模型的模型参数取值，所述第二计算节点上的第三模型由所述第二计算节点采用所述第二计算节点上的第二数据集训练得到；

所述第一计算节点将所述第三模型参数值更新为所述第一聚合参数值，并在保持所述第三模型参数值为所述第一聚合参数值不变的情况下，采用所述第一数据集对所述第一计算节点上的第一模型和第二模型再进行训练，并更新所述第一模型参数值和所述第二模型参数值。

2.根据权利要求1所述的方法，其特征在于，所述第一计算节点接收第一聚合参数值，所述第一聚合参数值基于所述第三模型参数值以及第四模型参数值得到包括：

所述第一计算节点将所述第三模型参数值向所述第二计算节点发送，以使得所述第二计算节点将所述第三模型参数值和所述第四模型参数值进行聚合，以得到所述第一聚合参数值；

所述第一计算节点接收来自所述第二计算节点的所述第一聚合参数值。

3.根据权利要求1-2中任一项所述的方法，其特征在于，所述方法还包括：

所述第一计算节点将更新得到的第一模型参数值和更新得到的第二模型参数值向所述第二计算节点发送。

4.根据权利要求1所述的方法，其特征在于，所述第一计算节点接收第一聚合参数值，所述第一聚合参数值基于所述第三模型参数值以及第四模型参数值得到包括：

所述第一计算节点将所述第三模型参数值向第三计算节点发送，以使得所述第三计算节点将所述第三模型参数值以及来自所述第二计算节点的所述第四模型参数值进行聚合，以得到所述第一聚合参数值；

所述第一计算节点接收来自所述第三计算节点的所述第一聚合参数值。

5.根据权利要求4所述的方法，其特征在于，所述方法还包括：

所述第一计算节点将更新得到的第一模型参数值和更新得到的第二模型参数值向所述第三计算节点发送。

6.一种基于联邦迁移学习的模型训练方法，其特征在于，包括：

第二计算节点获取第二聚合参数值，所述第二聚合参数值基于一个或多个第一计算节点上各自训练后的第一模型的第一模型参数值得到，其中，每个第一计算节点上的第一模型由所述第一计算节点采用所述第一计算节点的第一数据集进行训练，所述第一模型用于对输入数据进行特征提取；

在所述第二计算节点上的第一模型的模型参数取值为所述第二聚合参数值的情况下，所述第二计算节点采用所述第二计算节点上的第二数据集对所述第二计算节点上的第三模型进行训练，以得到所述第二计算节点上的第三模型的第四模型参数值，其中，所述第三模型用于鉴别由所述第一模型提取出的特征的源域。

7.根据权利要求6所述的方法，其特征在于，所述方法还包括：

所述第二计算节点获取第一聚合参数值，所述第一聚合参数值基于第三模型参数值以及所述第四模型参数值得到，所述第三模型参数值为所述第一计算节点采用所述第一数据集对所述第一计算节点上的第三模型进行训练得到的模型参数取值；

所述第二计算节点将所述第四模型参数值更新为所述第一聚合参数值，并在保持所述第四模型参数值为所述第一聚合参数值不变的情况下，采用所述第二数据集对所述第二计算节点上的第一模型、第二模型进行训练，并更新所述第二计算节点上的第一模型的模型参数值和所述第二计算节点上的第二模型的模型参数值。