[发明专利]一种基于机器异构性的联邦学习方法

权利要求书

1.一种基于机器异构性的联邦学习方法，其特征在于，所述方法包括：

接收服务器统一发送的初始模型、全局梯度和全局模型参数；

根据所述初始模型、所述全局梯度和所述全局模型参数，得到预估梯度校准值；其中，所述预估梯度校准值用于表征各边缘设备的本地梯度与服务器的全局梯度的偏差以及各边缘设备因本地更新次数不同而产生的偏差；

基于所述预估梯度校准值，得到目标本地梯度和目标本地模型参数；

将所述目标本地梯度和所述目标本地模型参数发送至所述服务器，以使所述服务器生成更新后的全局梯度和全局模型参数。

2.根据权利要求1所述的基于机器异构性的联邦学习方法，其特征在于，所述接收服务器统一发送的初始模型、全局梯度和全局模型参数之后包括：

将所述全局模型参数作为初始本地模型参数。

3.根据权利要求2所述的基于机器异构性的联邦学习方法，其特征在于，所述根据所述初始模型、所述全局梯度和所述全局模型参数，得到预估梯度校准值包括：

基于预设的本地数据和所述初始模型，得到本地梯度；

基于所述全局梯度、所述全局模型参数和所述本地梯度，得到预估梯度校准值。

4.根据权利要求3所述的基于机器异构性的联邦学习方法，其特征在于，所述基于所述全局梯度、所述全局模型参数和所述本地梯度，得到预估梯度校准值包括：

基于所述全局梯度和所述本地梯度，得到第一偏差值，其中，所述第一偏差值用于表征各边缘设备的本地梯度与服务器的全局梯度的偏差；

基于所述全局模型参数和所述初始本地模型参数，得到第二偏差值，其中，所述第二偏差值用于表征各边缘设备因本地更新次数不同而产生的偏差；

基于所述第一偏差值和所述第二偏差值，得到预估梯度校准值。

5.根据权利要求4所述的基于机器异构性的联邦学习方法，其特征在于，所述基于所述第一偏差值和所述第二偏差值，得到预估梯度校准值包括：

获取本地更新次数；

根据所述本地更新次数和所述第二偏差值，得到中间第二偏差值；

将所述第一偏差值加上所述中间第二偏差值，得到预估梯度校准值。

6.根据权利要求5所述的基于机器异构性的联邦学习方法，其特征在于，所述基于所述预估梯度校准值，得到目标本地梯度和目标本地模型参数包括：

获取数据样本；其中，所述数据样本是从边缘设备的样本中获取得到；

根据所述数据样本和所述初始本地模型参数，得到损失函数偏导数；

根据所述损失函数偏导数，得到目标本地梯度；

根据所述损失函数偏导数、所述初始本地模型参数和所述预估梯度校准值，得到目标本地模型参数。

7.根据权利要求6所述的基于机器异构性的联邦学习方法，其特征在于，所述根据所述数据样本和所述初始本地模型参数，得到损失函数偏导数包括：

根据所述数据样本和所述初始本地模型参数，得到损失函数；

对所述损失函数进行求偏导，得到损失函数偏导数。

8.根据权利要求7所述的基于机器异构性的联邦学习方法，其特征在于，所述将所述目标本地梯度和所述目标本地模型参数发送至所述服务器，以使所述服务器生成更新后的全局梯度和全局模型参数之后包括：

接收服务器统一发送的更新后的全局梯度和全局模型参数，并重复执行根据所述初始模型、所述全局梯度和所述全局模型参数，得到预估梯度校准值的步骤。

9.一种智能终端，其特征在于，包括有存储器，以及一个或者一个以上的程序，其中一个或者一个以上程序存储于存储器中，且经配置以由一个或者一个以上处理器执行所述一个或者一个以上程序包含用于执行如权利要求1-7中任意一项所述的方法。

10.一种非临时性计算机可读存储介质，其特征在于，当所述存储介质中的指令由电子设备的处理器执行时，使得电子设备能够执行如权利要求1-7中任意一项所述的方法。