[发明专利]模型更新方法、工作节点及模型更新系统

权利要求书

1.一种模型更新方法，其特征在于，所述方法包括：

第一工作节点接收至少一个第二工作节点发送的第一信息；其中，所述至少一个第二工作节点为与所述第一工作节点属于同一子网络的工作节点；

所述第一工作节点根据所述第一信息和所述第一工作节点存储的模型与数据对所述模型进行更新；

其中，每个所述第一信息包括发送所述第一信息的第二工作节点的如下信息中的至少一项：模型的至少一个参数、梯度以及模型的冲量；所述第一工作节点存储的模型与所述至少一个第二工作节点存储的模型具有至少部分相同的模型结构。

2.如权利要求1所述的方法，其特征在于，所述第一工作节点存储的模型与所述至少一个第二工作节点存储的模型具有相同的模型结构。

3.如权利要求1或2所述的方法，其特征在于，所述第二工作节点的数量为k；

所述第一工作节点接收至少一个第二工作节点发送的第一信息之前，所述方法还包括：

在满足更新条件的情况下，所述第一工作节点向与所述第一工作节点属于同一子网的其他工作节点发送第一请求；其中，所述第一请求用于请求所述其他工作节点参与所述第一工作节点的模型更新；

所述第一工作节点接收所述其他工作节点发送的第一响应；其中，所述第一响应用于表征所述其他工作节点是否参与所述第一工作节点的模型更新，参与所述第一工作节点的模型更新的其他工作节点的数量为m；

所述第一工作节点从m个所述其他工作节点中选择k个工作节点，并向所述k个工作节点发送获取所述第一信息的请求；其中，所述k个工作节点为所述第二工作节点。

4.如权利要求1-3任一所述的方法，其特征在于，所述第一工作节点根据所述第一信息和所述第一工作节点存储的模型与数据对所述模型进行更新之后，所述方法还包括：

所述第一工作节点将更新模型的冲量发送给所述至少一个第二工作节点，以使所述至少一个第二工作节点进行模型更新。

5.如权利要求1-4任一所述的方法，其特征在于，所述第一工作节点接收至少一个第二工作节点发送的第一信息之前，所述方法还包括：所述第一工作节点向所述至少一个第二工作节点发送获取所述至少一个第二工作节点的第一信息的请求。

6.如权利要求1-5任一所述的方法，其特征在于，所述第一信息包括发送所述第一信息的第二工作节点的模型的至少一个参数和梯度；

所述第一工作节点根据所述第一信息和所述第一工作节点存储的模型与数据对所述模型进行模型更新包括：

所述第一工作节点利用接收到的各个第二工作节点的模型的任一参数与所述第一工作节点中与所述任一参数对应的参数的均值与接收到的各个第二工作节点的梯度做一次或多次梯度下降进行模型更新；或，

所述第一工作节点利用接收到的各个第二工作节点的模型的至少一个参数与接收到的各个第二工作节点的梯度的均值做一次或多次梯度下降进行模型更新；或，

所述第一工作节点利用接收到的各个第二工作节点的模型的任一参数与所述第一工作节点中与所述任一参数对应的参数的均值与接收到的各个第二工作节点的梯度的均值做一次或多次梯度下降进行模型更新。

7.如权利要求1-5任一项所述的方法，其特征在于，所述第一信息包括发送所述第一信息的第二工作节点的模型的梯度；

所述第一工作节点根据所述第一信息和所述第一工作节点存储的模型与数据对所述模型进行模型更新包括：所述第一工作节点利用接收到的各个第二工作节点的梯度做一次或多次梯度下降进行模型更新。

8.如权利要求1-7任一所述的方法，其特征在于，所述第一信息为经过压缩或截断处理后的信息。

9.如权利要求1-8任一所述的方法，其特征在于，所述第一信息为采用同态加密，或者半同态加密后的信息，或者第一信息为在可信计算环境中采用差分隐私方法加密后的信息。

10.如权利要求1-9任一所述的方法，其特征在于，所述第一工作节点存储的模型为机器学习模型。