[发明专利]一种面向快速联邦学习的5G边缘设备调度方法

说明书

本发明公开了一种面向快速联邦学习的5G边缘设备调度方法，该方法在联邦学习的每个训练周期开始阶段，考虑每个边缘设备的训练时延、公平性和本地模型重要性，基于多臂老虎机理论进行边缘设备调度。本发明还搭建了一个无线联邦学习系统，其联邦学习的训练过程包括：每个训练周期开始阶段，基于多臂老虎机理论进行设备调度；每个训练周期训练过程中，被调度的设备进行本地训练，并将更新之后的本地模型上传给基站，生成新的全局模型；每个训练周期结束阶段，基站将更新之后的全局模型广播给所有设备，用于下一个周期的设备选择以及模型训练。该发明能够在设备信道条件以及本地计算能力未知的情况下，以较低的训练时延获得较高的学习性能。

技术领域

本发明涉及联邦学习和边缘计算领域，特别是指一个面向快速联邦学习的5G边缘设备调度方法。

背景技术

由于物联网的普及化，边缘设备的数量显著增加，导致了无线网络下的边缘设备产生大量的数据。这些数据处理和分析需要机器学习算法。传统的机器学习算法需要一个中央控制器来收集一定数量的数据进行模型训练。出于隐私方面的考虑，边缘设备可能不愿意分享本地数据。因此，可以通过一种创新的分布式机器学习算法，即联邦学习解决这一挑战。在联邦学习中，设备根据本地数据集训练本地模型。然后，更新之后的本地模型被上传到中心服务器进行模型聚合。由于联邦学习能够在整个训练过程中，使设备的数据始终存储在本地设备，控制数据，所以设备的隐私得到较好的保护。然而由于无线资源有限，边缘设备数量庞大，对边缘设备的调度要求很高。在实际过程中，无线信道状态信息和边缘设备的计算能力难以获得，因此无线联邦学习系统如何在训练过程中对边缘设备进行调度，以达到一个高性能低延迟的模型是一个需要研究的关键问题。

发明内容

本发明的目的是提出一个面向快速联邦学习的5G边缘设备调度方法。该方案假设基站与边缘设备之间的信道状态信息和边缘设备本地计算未知，通过将边缘设备调度问题转化多臂老虎机问题，同时考虑了设备训练延迟，公平性，以及设备本地模型重要性，以较低的训练延迟获得较高的学习性能。

本发明为解决上述技术问题采用以下技术方案：

一种面向快速联邦学习的5G边缘设备调度方法，该方法在联邦学习的每个训练周期开始阶段，考虑每个边缘设备的训练延迟、公平性和本地模型重要性，基于多臂老虎机理论进行边缘设备调度，具体为：

将基站视为玩家，边缘设备视为手臂，局部更新本地模型重要性以及训练延迟，边缘设备被调度次数的减少量的加权和视为奖励值，按照如下准则进行边缘设备调度：

A^*,(t)＝argmax _A(t)∑_k∈A(t)(ρ₁τ_k^(t)+ρ₂d_k^(t)+ρ₃q_k^(t))

其中系数ρ₁、ρ₂、ρ₃∈[0,1]表示训练延迟、本地模型重要性、边缘设备被调度次数的减少量的权重，A^*,(t)是联邦学习的第t个训练周期开始阶段被调度边缘设备集合，A(t)是联邦学习的第t个训练周期开始阶段任一备选的随机边缘设备子集，d_k^(t)0是联邦学习的第t个训练周期开始阶段边缘设备k的本地模型重要性，q_k^(t)是联邦学习的第t个训练周期开始阶段边缘设备k被调度次数的减少量，τ_k^(t)表示联邦学习的第t个训练周期边缘设备k的训练延迟。

一种无线联邦学习系统，包含一个基站以及多个边缘设备，并且边缘设备信道条件以及本地计算能力未知；该系统中联邦学习的训练过程包括：