[发明专利]一种基于部分客户参与和功率约束的联邦学习方法

权利要求书

1.一种基于部分客户参与和功率约束的联邦学习方法，其特征在于，所述基于部分客户参与和功率约束的联邦学习方法包括：

步骤一，采用有偏见的客户选择，设置客户端可寻址并不断向中央服务器报告，令中央服务器在迭代过程中了解每个客户端的状态；

步骤二，通过添加总和功率约束进行跨通信时隙的功率分配，令设备地将所述设备的本地更新传输到服务器。

2.如权利要求1所述基于部分客户参与和功率约束的联邦学习方法，其特征在于，所述步骤一包括：

(1)客户端连接到服务器并寻求共同找到模型参数最小化经验损失函数；选择损失最大的前M个客户端执行本地更新；

(2)采用具有线性增量子集的客户选择策略：设置选择当前全局模型进行全局更新的top-M最高局部损失的客户端；定义客户选择策略函数π_tm，将全局模型w(t)映射到选定的客户集S(π_tm,w)。

3.如权利要求2所述基于部分客户参与和功率约束的联邦学习方法，其特征在于，所述经验损失函数如下：

其中，F(w)表示经验损失函数；K表示客户端数量；w^*表示模型参数；f(w,ξ)表示从本地数据集B_k和模型参数w中随机选择的样本批次ξ的损失函数；p_k表示第k个客户端的数据比例；F_k(w)表示客户k的本地损失函数；F^*＝min_wF(w),

4.如权利要求1所述基于部分客户参与和功率约束的联邦学习方法，其特征在于，所述基于部分客户参与和功率约束的联邦学习方法还包括：

客户端选择FedAvg的迭代t的更新规则如下：

其中，w_m(t,E)表示客户端m在t时的局部模型参数，表示批次ξ(t,E)上的随机梯度，表示全局模型参数。

5.如权利要求1所述基于部分客户参与和功率约束的联邦学习方法，其特征在于，所述选择损失最大的前M个客户端执行本地更新包括：

设备不断地将所述设备本地丢失发送到中央服务器，服务器始终跟踪每个响应设备的可用性和训练状态；客户端选择由服务器根据设备的最新状态和信道状态信息进行，并在聚合前广播给设备；将未被选中的客户端的最新损失值记录设置为1；同时被选中的设备相应的上传对应的模型参数：

其中和表示全局模型参数，M表示活动客户端集的大小，b表示小批量的大小。

6.如权利要求1所述基于部分客户参与和功率约束的联邦学习方法，其特征在于，所述步骤二中，通过添加总和功率约束进行跨通信时隙的功率分配，令设备地将所述设备的本地更新传输到服务器包括：

1)通过无线衰落MAC连接设备和参数服务器的系统进行建模，并采用OFDM进行传输；

2)在分布式SGD或DSGD中，服务器接收来自邻居的叠加信号：在DSGD算法的第t轮通信中，本地更新通过无线衰落MAC发送到服务器，具有N个时隙的s个子信道；将子通道到分配给设备m∈[M]；对于发射功率设备m^*(t)和服务器之间的并行无线高斯信道容量利用下式确定：

其中，表示在通信回合t分配给设备m的功率；

3)子信道上的功率分配p_m[s]适应相应的信道系数h_m[s]以通过AirComp进行梯度聚合：服务器根据一定的聚合规则聚合消息获得新的全局模型更新。

7.一种实施如权利要求1-6任意一项所述基于部分客户参与和功率约束的联邦学习方法的无线联邦学习通信系统。

8.一种计算机设备，其特征在于，所述计算机设备包括存储器和处理器，所述存储器存储有计算机程序，所述计算机程序被所述处理器执行时，使得所述处理器执行如权利要求1-6任意一项所述基于部分客户参与和功率约束的联邦学习方法的步骤。