[发明专利]一种基于模型陈旧性与用户参与度感知的联邦学习算法

权利要求书

1.一种基于模型陈旧性与用户参与度感知的联邦学习算法，其特征在于，该算法包括如下步骤：

步骤1：云中心服务器将参与任务的各客户端划分成不同的性能层级；

步骤2：云中心服务器初始化全局模型以及所需的全局变量；所述全局变量包括云中心服务器与客户端的通信总轮数T，n个性能层级的客户端集合u₁,u₂,...,u_n，各性能层级的客户端集合被云中心服务器选中进行本地模型训练的机会数p₁,p₂,...,p_n，以及根据所述机会数确定的各性能层级客户端集合的初始采样率ρ₁,ρ₂,...,ρ_n；

步骤3：云中心服务器与客户端开始首轮通信，也就是通信轮数t＝0，在本轮通信中云中心服务器按照相应的初始采样率分别从每一性能层级的客户端集合中随机采样部分客户端，获得用于首轮本地模型训练的客户端集合，并通知被采样的客户端从云中心服务器上下载初始化后的全局模型；

步骤4：被采样的客户端在收到云中心服务器的通知后，开始从云中心服务器下载当前最新的全局模型，并将其作为被采样的客户端进行下一轮本地模型训练的初始模型；

步骤5：从同一性能层级采样的各个客户端根据本地数据并行地使用随机梯度下降算法进行本地模型训练，来得到各自多轮迭代训练后的本地模型；

步骤6：完成本地模型训练的各客户端上传本地模型给云中心服务器；

步骤7：对于完成本地模型训练的每一客户端所对应的性能层级的客户端集合，云中心服务器将其被选中进行本地模型训练的机会数数值减1，并根据当前的机会数数值更新该客户端集合的采样率；

步骤8：云中心服务器将已完成本地模型训练的属于同一性能层级的客户端上传的本地模型进行聚合，并更新全局模型；

步骤9：针对已完成本地模型训练的客户端，云中心服务器从其所对应的性能层级的客户端集合中按照更新的采样率随机采样部分客户端，并通知此部分客户端从云中心服务器下载最新的全局模型；

步骤10：判断是否当前云中心服务器与客户端的通信轮数t≥T，若否，则令t＝t+1，并转至步骤4，进行下一轮的全局模型更新，若是，则视为任务结束。

2.根据权利要求1所述的基于模型陈旧性与用户参与度感知的联邦学习算法，其特征在于，根据各客户端完成同一任务所耗费的时间，云中心服务器将参与任务的所述各客户端划分成不同的性能层级。

3.根据权利要求2所述的基于模型陈旧性与用户参与度感知的联邦学习算法，其特征在于，所述步骤1进一步包括如下步骤：

步骤1-1：云中心服务器将同一个机器学习任务分发给参与任务的各客户端，并设置客户端本地模型训练轮数R、客户端每轮本地模型训练的最大耗时T_max以及客户端性能层级数量n；

步骤1-2：各所述客户端接收到云中心服务器发送的机器学习任务后，执行R轮本地模型训练，每一所述客户端在每轮本地模型训练完毕后，发送每轮本地模型训练的耗时T_i给云中心服务器；

步骤1-3：云中心服务器接收到每一所述客户端的每轮本地模型训练的耗时T_i时，将大于或者等于T_max的耗时均计时为T_max；

步骤1-4：R轮本地模型训练完成后，从所有参与任务的客户端中除去总耗时Total_T_i大于或者等于R*T_max的客户端，对剩余的客户端按照其各自执行R轮本地模型训练的总耗时Total_T_i划分为n个性能层级。

4.根据权利要求3所述的基于模型陈旧性与用户参与度感知的联邦学习算法，其特征在于，所述对剩余的客户端按照其各自执行R轮本地模型训练的总耗时Total_T_i划分为n个性能层级的方法为：按照总耗时Total_T_i对各客户端进行排序，然后依照此排序将每个客户端分为一组，视为同一性能层级，其中，N为客户端总数量，n为预设的性能层级总数。