[发明专利]一种联邦学习带宽分配方法、系统、计算机设备及介质

说明书

本发明提供了一种联邦学习带宽分配方法、系统、计算机设备及介质，所述方法包括：向预设数目的客户端发送待训练模型；获取各个客户端的训练时间消耗；所述训练时间消耗由各个客户端根据训练样本训练所述待训练模型得到；统计各个客户端的信道状态信息，并根据各个客户端的所述信道状态信息，得到对应的模型上传时间消耗，以及根据各个客户端的所述训练时间消耗和所述模型上传时间消耗，对各个客户端进行带宽分配。本发明基于信道状态信息建立用户成功上传模型数学期望，再通过粒子群算法求解最优用户带宽分配，使得在具有时间约束的联邦学习框架下能够让更多的用户参与模型聚合，提高联邦学习训练模型的性能。

技术领域

本发明涉及人工智能技术领域，特别是涉及一种基于统计信道状态信息的联邦学习带宽分配方法、系统、计算机设备及存储介质。

背景技术

联邦学习(Federated Learning,FL)，作为一种加密式的分布式机器学习技术，可有效解决现实生活中数据孤岛和数据隐私保护等问题。联邦学习框架的中心服务器可以在只获取用户的训练模型的情况下提升深度网络的训练效果。尽管在整个联邦学习过程中，中心服务器与用户之间只涉及深度模型或网络参数的传输，但是中心服务器与用户之间信道状态的限制，会对数据传输的效率产生很大影响，进而导致用户训练模型上传失败，影响联邦学习的训练效果。随着人们对深度学习要求的提升，用户在传输资源和时间有限的环境条件下将复杂的深度神经网络上传到中心服务器进行模型聚合就成为联邦学习必须进一步解决的重要问题。

现有解决方案是提供一种数据块进行上传、下载或数据交互前都进行自适应通信压缩的压缩算法来适应联邦学习训练过程中的动态带宽和不可靠网络环境，进而有效利用带宽资源和减少冗余数据交换，但该解决方案不可避免的增加了整个联邦学习的时间开销和性能开销，进而一定程度上影响联邦学习的训练效率。

因此，亟需提供一种面对动态传输信道和不可靠网络环境，由中心服务器进行合理的资源调度，保证更多的用户能够在规定的时间内成功上传网络模型的联邦学习带宽分配方法。

发明内容

本发明的目的是提供一种基于信道状态信息的联邦学习带宽分配方法，通过统计信道状态信息(Statistical CSI,S-CSI)分析每个用户成功上传模型的概率，获取能够成功上传模型的用户数的数学期望，结合粒子群算法求解最大化期望，对用户带宽进行合理分配，使得在具有时间约束的联邦学习框架下能够让更多的用户参与模型聚合，提高联邦学习训练模型的性能。

为了实现上述目的，有必要针对上述技术问题，提供了一种复联邦学习带宽分配方法、系统、计算机设备及存储介质。

第一方面，本发明实施例提供了一种联邦学习带宽分配方法，所述方法包括以下步骤：

向预设数目的客户端发送待训练模型；

获取各个客户端的训练时间消耗；所述训练时间消耗由各个客户端根据训练样本训练所述待训练模型得到；

统计各个客户端的信道状态信息，并根据各个客户端的所述信道状态信息，得到对应的模型上传时间消耗；

根据各个客户端的所述训练时间消耗和所述模型上传时间消耗，对各个客户端进行带宽分配。

进一步地，所述训练时间消耗由各个客户端根据训练样本训练所述待训练模型得到的步骤包括：

根据训练样本训练所述待训练模型，并统计CPU计算能力、训练循环次数和每个训练样本占用CPU周期数；

根据所述CPU计算能力、训练循环次数和每个训练样本占用CPU周期数，得到所述训练时间消耗；所述训练时间消耗表示为: