[发明专利]一种多小区联邦学习模型训练方法

说明书

本发明涉及一种多小区联邦学习模型训练方法，属于机器学习领域。该方法具体步骤为：用户基于本地数据训练本地模型，并发送至所关联的蜂窝基站；基站接收用户本地模型聚合为全局模型，并记录迭代次数；若基站迭代次数差异超过门限值，则停止迭代，否则，判断模型更新差异是否低于门限值；若是，则暂停发送模型参数，否则，判断当前可用带宽是否低于门限值；若是，则基站仅发送模型权值差异值高于门限值的相应权值；否则，基站发送模型全部参数；各基站更新模型，直至模型收敛。

技术领域

本发明属于机器学习领域，涉及一种多小区联邦学习模型训练方法。

背景技术

通信技术及物联网技术的迅猛发展产生了海量的数据，其中不乏用户敏感信息和安全信息，然而，由于无线网络的不稳定性和资源高度受限，重要信息在传输过程中可能发生消息泄露或丢失。联邦学习技术作为典型分布式学习技术允许设备使用个人收集的数据在本地训练学习模型，设备之间仅需交互模型参数，从而可避免了大量数据通过无线链路传输，在保护用户隐私和保证信息安全的同时，可实现多用户共享相同模型。

现有联邦学习算法多考虑小区内模型训练，较少涉及多个蜂窝基站之间的模型共享；此外，现有研究较少考虑不同基站模型更新速度差异、多次迭代模型更新差异值以及无线网络带宽资源对模型参数传输性能影响，导致算法性能严重受限。

发明内容

有鉴于此，本发明的目的在于提供一种多小区联邦学习模型训练方法。

为达到上述目的，本发明提供如下技术方案：

一种多小区联邦学习模型训练方法，包括以下步骤：

S1：各小区用户基于本地数据训练用户本地模型，并将本地模型参数发送至所关联基站；

S2：各基站接收所关联用户发送的用户本地模型参数，对模型进行全局聚合，生成基站全局模型；

S3：各基站记录基站全局模型迭代次数，并周期性广播至邻居基站；

S4：各基站计算其全局模型迭代次数与邻居基站模型迭代次数之间的差异，判断差异值是否高于预先设定的迭代次数差异门限值，若是，则执行S5，否则，执行S6；

S5：基站暂停模型迭代，返回S4；

S6：各基站计算模型更新差异；

S7：判断模型更新差异值是否低于模型更新差异门限值，若是，则执行S8，否则，执行S9；

S8：基站持续进行模型迭代更新，并计算模型更新差异值，返回S7；

S9：基站检测可用带宽是否低于可用带宽门限值，若是，则执行S10，否则，执行S11；

S10：基站判断模型中各权值更新差异值，并与门限值对比，若权值更新差异值高于门限值，则将对应权值发送至邻居基站，转至S12；

S11：基站将当前时刻的全局模型参数发送至邻居基站，并重置模型更新差异；

S12：各基站根据所接收的全局模型参数对本地模型进行更新，判断模型是否已经收敛，若是，则完成模型训练，否则，返回S1。