[发明专利]联邦学习的梯度融合方法及装置和电子设备

说明书

本说明书实施例提供一种联邦学习的梯度融合方法及装置和电子设备。所述方法包括：向各个设备下发新一轮联邦学习的训练指令；接收设备上传的使用公钥加密的梯度数据；其中，所述公钥为所述可信执行环境生成的公私钥对中的公钥；利用所述可信执行环境中存储的所述公私钥对中私钥对加密的梯度数据进行解密，得到明文的梯度数据；对参与本轮联邦学习的设备上传的明文梯度数据进行梯度融合，在所述梯度融合过程中随机丢弃部分设备梯度。

技术领域

本说明书实施例涉及互联网技术领域，尤其涉及一种联邦学习的梯度融合方法及装置和电子设备。

背景技术

联邦学习是一种分布式的机器学习算法，成千上万的设备利用本地的数据协同训练一个共享的模型。

发明内容

本说明书实施例提供的一种联邦学习的梯度融合方法及装置和电子设备。

根据本说明书实施例的第一方面，提供一种联邦学习的梯度融合方法，应用于联邦学习系统，所述系统包括云端服务器和至少2个设备；其中所述云端服务器具有所述设备认可的可信执行环境；所述方法包括：

云端服务器向各个设备下发新一轮联邦学习的训练指令；

所述设备在接收到训练指令后，利用设备端的联邦学习算法和训练数据进行训练得到模型参数的梯度数据；

所述设备使用公钥对训练的梯度数据进行加密，并将加密的梯度数据上传至所述云端服务器；其中，所述公钥为所述云端服务器的可信执行环境生成的公私钥对中的公钥；

所述云端服务器利用所述可信执行环境中存储的所述公私钥对中私钥对加密的梯度数据进行解密，得到明文的梯度数据；

所述云端服务器对参与本轮联邦学习的设备上传的明文梯度数据进行梯度融合，在所述梯度融合过程中随机丢弃部分设备梯度。

可选的，所述方法还包括：

在联邦学习之前，所述云端服务器的可信执行环境进行第三方认证；

在接收所述第三方通过认证后返回的认证报告后，在所述可信执行环境生成一对公私钥，并将公钥下发至每个设备。

可选的，下发至每个设备的还包括认证报告；所述方法还包括：

所述设备在接收到认证报告后，通过所述第三方提供的SDK内置的验证程序对该认证报告进行校验，以证明该认证报告是可信的。

根据本说明书实施例的第二方面，提供一种联邦学习的梯度融合方法，应用于具备可信环境的云端服务器，所述方法包括：

向各个设备下发新一轮联邦学习的训练指令；

接收设备上传的使用公钥加密的梯度数据；其中，所述公钥为所述可信执行环境生成的公私钥对中的公钥；

利用所述可信执行环境中存储的所述公私钥对中私钥对加密的梯度数据进行解密，得到明文的梯度数据；

对参与本轮联邦学习的设备上传的明文梯度数据进行梯度融合，在所述梯度融合过程中随机丢弃部分设备梯度。

根据本说明书实施例的第三方面，提供一种联邦学习的梯度融合方法，应用于具备可信环境的云端服务器，所述方法包括：

向各个设备下发新一轮联邦学习的训练指令；

接收设备上传的使用第一公钥加密第二密钥，以及使用第二密钥加密的梯度数据；其中，所述公钥为所述可信执行环境生成的第一公私钥对中的第一公钥；所述第二密钥由所述设备本地生成；

利用所述可信执行环境中存储的所述第一公私钥对中第一私钥对加密的第二密钥进行解密，并利用解密的第二密钥对加密的梯度数据进行解密，得到明文的梯度数据；