[发明专利]一种无线网络中基于终端信誉的可靠联邦学习方法及系统

说明书

本发明属于无线通信技术领域，公开了一种无线网络中基于终端信誉的可靠联邦学习方法及系统，通过Beta函数对用户进行信誉建模，令基站构建所有与之关联用户的信誉表，并初始化联邦学习的其他相关参数；在每一轮次的终端用户训练完成后，根据用户信誉公平地选择部分用户与基站进行交互，排除较差信誉用户被调度的可能，同时采用一种公平的策略防止高信誉的用户被过度调度。在基站处根据用户信誉值的比重将本地模型参数按照一定比例进行聚合，并根据当前用户的行为和信道质量更新用户信誉。本发明合理有效地调度更多终端用户参与联邦学习过程，克服了无线网络中信道资源的限制，避免造成资源浪费的问题，极大提升了联邦学习效率和性能。

技术领域

本发明属于无线通信技术领域，尤其涉及无线网络中基于终端信誉的可靠联邦学习方法及系统。

背景技术

目前，下一代计算网络将从传统的云计算设置(在数据中心聚合计算资源)到边缘计算系统发生模式转变，该边缘计算系统将计算能力主要部署到网络边缘，以满足需要非常高带宽的应用程序的需求低延迟，以及仅通过不可靠的网络连接即可支持资源受限的节点。随着机器学习(Machine Learning,ML)的蓬勃发展，人们期望通过利用边缘节点(通常是接入点)的计算能力，未来的网络将能够利用本地数据对许多活动进行智能推理和控制，例如，学习手机用户的活动，通过可穿戴设备预测健康事件或检测智能家居中的盗窃事件。由于终端设备每天生成的数据量巨大，并且计算能力不断提高，现在越来越关注在终端设备上共享私有数据，因此直接在终端用户(UE)上进行学习变得更具有吸引力。为此，出现了一种新的机器学习模型，即联邦学习(Federated Learning,FL)，该模型允许在中央基站(BS)上将数据采集和计算解耦。具体来说，联邦学习系统通过重复以下过程来优化全局模型：i)终端用户用自己的数据执行本地计算，以最小化预先确定的经验风险函数并向中央基站更新训练后的权重；ii)中央基站收集来自终端用户的更新并咨询联邦学习单元以产生改进的全局模型，并且iii)将联邦学习模型的输出重新分配给终端用户，之后终端用户再使用全局模型作为参考来进行进一步的本地训练。以这种方式，中央基站能够在不牺牲其私密性的情况下，从存储在大量终端用户中的数据训练统计模型。因此，联邦学习宣称该试验具有更智能的模型，更低的延迟和更低的功耗，同时还确保了隐私。这些特性使联邦学习成为未来智能网络中最有前途的技术之一。

尽管如此，要使联邦学习成为可能，就需要应对新的挑战，这些挑战要求与分布式优化设计的标准方法有根本性的差异。特别是，在传统的机器学习系统中，算法在大型数据集上运行，该大型数据集在云中的多个服务器之间均匀地划分，而联邦学习通常是通过由大量非独立且由不同分布生成的数据集来训练跨不同终端的用户。同样重要的是在参数更新阶段可能发生的事情：虽然在联邦学习上运行的迭代算法需要非常低的延迟和计算单元之间的高吞吐量连接，但是中央基站通常需要通过资源受限的频谱连接大量终端用户，因此每个全局聚合仅允许有限数量的终端用户通过不可靠的信道发送经过训练的权重。为了成功部署联邦学习，要求模型训练不能直接访问原始数据，且通讯成本是一个限制因素。

目前的现有的联邦学习解决方案几乎都是假定联邦学习运行在理想的无线网络中。虽然这样的联邦学习解决方案能够在理想情况下很方便地解决问题，但在其实际运行过程中，无线网络中的联邦学习过程仍然容易受到各种各样的攻击。也就是说，在联邦学习过程中，数据所有者可能通过有意或无意的行为误导全局模型。对于故意行为，攻击者可以发送恶意更新，即中毒攻击，影响全局模型参数，导致当前协作学习失败，且现有的防御措施对此类攻击是无效的。此外，无线网络不可靠的环境因素也会间接地导致数据所有者的一些无意行为，从而对联邦学习产生不利影响。因此，对于联邦学习来说，防止这种有意或无意地不可靠的本地模型更新是至关重要的。

通过上述分析，现有技术存在的问题及缺陷为：现有技术大多是理想情况下无线网络中联邦学习的解决方案，但在实际应用中，由于恶意用户的数据中毒攻击或不可靠网络传输所导致的全局模型被误导的问题通过现有技术还无法有效解决。