[发明专利]一种面向异质场景的异步联邦学习方法、装置及存储介质

权利要求书

1.一种面向异质场景的异步联邦学习方法，其特征在于，包括：

从候选客户端中确定目标客户端，其中，所述目标客户端的自相关熵高于所述候选客户端中其他客户端；

对所述目标客户端进行训练，得到目标参数，并将所述目标参数上传至服务器；

所述服务器根据所述目标参数对模型聚合的过程进行聚合增强处理，得到第一联邦模型；

对所述第一联邦模型进行策略集成处理，得到第二联邦模型；

对所述第二联邦模型进行模型评估，确定目标联邦模型。

2.根据权利要求1所述的一种面向异质场景的异步联邦学习方法，其特征在于，所述从候选客户端中确定目标客户端，包括：

从所述候选客户端中的每个客户端获取感知数据；

根据每个客户端中获取到的感知数据，计算每个客户端的自相关熵；

根据每个客户端的自相关熵和信息性客户端激活策略，从所述候选客户端中选取自相关熵最高的客户端作为所述目标客户端。

3.根据权利要求2所述的一种面向异质场景的异步联邦学习方法，其特征在于，对所述目标客户端进行训练，得到目标参数，并将所述目标参数上传至服务器，包括：

所述目标客户端获取当前全局模型和本地数据进行训练，得到目标参数；

所述目标客户端将所述目标参数发送至所述服务器；

所述服务器轮询等待接收客户端发送的目标参数。

4.根据权利要求3所述的一种面向异质场景的异步联邦学习方法，其特征在于，所述服务器根据所述目标参数对模型聚合的过程进行聚合增强处理，得到第一联邦模型，包括：

所述服务器根据多周期分层更新策略，将通信划分为若干个周期；

对模型聚合过程中的深度神经网络的浅层和深层的更新频率进行优化；

根据所述若干个周期和优化后的更新频率，根据所述目标参数进行模型聚合，得到第一联邦模型。

5.根据权利要求4所述的一种面向异质场景的异步联邦学习方法，其特征在于，所述对所述第一联邦模型进行策略集成处理，得到第二联邦模型，包括：

根据信息性客户端激活策略、多周期分层更新策略、时间权重衰减策略以及信息权重增强策略对所述第一联邦模型进行策略集成处理，得到第二联邦模型。

6.根据权利要求5所述的一种面向异质场景的异步联邦学习方法，其特征在于，所述对所述第二联邦模型进行模型评估，确定目标联邦模型，包括：

计算客户端激活作用下全局模型的准确率和收敛速度，确定最优激活比例；

计算通信优化作用下全局模型的准确率和收敛速度，确定最优通信周期；

计算聚合增强作用下全局模型的准确率和收敛速度，确定使用信息熵或本地数据集的标签数量；

计算集成策略作用下全局模型的准确率和收敛速度，生成模型评估结果。

7.一种面向异质场景的异步联邦学习装置，其特征在于，包括：

第一模块，用于从候选客户端中确定目标客户端，其中，所述目标客户端的自相关熵高于所述候选客户端中其他客户端；

第二模块，用于对所述目标客户端进行训练，得到目标参数，并将所述目标参数上传至服务器；

第三模块，用于由所述服务器根据所述目标参数对模型聚合的过程进行聚合增强处理，得到第一联邦模型；

第四模块，用于对所述第一联邦模型进行策略集成处理，得到第二联邦模型；

第五模块，用于对所述第二联邦模型进行模型评估，确定目标联邦模型。

8.一种电子设备，其特征在于，包括处理器以及存储器；

所述存储器用于存储程序；

所述处理器执行所述程序实现如权利要求1至6中任一项所述的方法。

9.一种计算机可读存储介质，其特征在于，所述存储介质存储有程序，所述程序被处理器执行实现如权利要求1至6中任一项所述的方法。

10.一种计算机程序产品，包括计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至6任意一项所述的方法。