[发明专利]基于马尔可夫链共识的工业物联网分布式联邦学习方法

说明书

本发明涉及一种基于马尔可夫链共识的工业物联网分布式联邦学习方法，包括以下步骤：步骤S1：调度器获取预设区域内物联网设备的连接情况，得到网络拓扑图；步骤S2：调度器根据网络拓扑图，利用快速混合马尔可夫链优化问题计算出最优共识矩阵；步骤S3：调度器根据最优共识矩阵得到一个稀疏拓扑图，并作为当前网络的拓扑图，利用该稀疏拓扑图构造一个辅助图来制定通信资源的调度策略；步骤S4：各个物联网设备分别训练一个本地神经网络模型，并根据调度策略，将训练好的本地神经网络模型广播到它在稀疏拓扑图中的所有邻居设备；步骤S5：当各个物联网设备都接收到来自邻居的模型之后，在本地根据步骤S2得到的共识矩阵来聚合模型得到新的本地模型。

技术领域

本发明物联网技术领域，具体涉及一种基于马尔可夫链共识的工业物联网分布式联邦学习方法。

背景技术

随着物联网技术的飞速发展及其在智能工厂、工业自动化、智能制造等工业领域的广泛应用，工业物联网技术受到了学术界和工业界的广泛关注。然而，在工业物联网中，由各种传感器设备或物联网设备生成的数据呈爆炸式增长。如果将设备产生的大量数据直接传输到远程云端平台进行进一步的处理和分析，可能会导致严重的网络拥塞和无法忍受的传输延迟。同时，在传输原始数据时，很可能会导致数据隐私的泄露，产生一些不良的结果。由于这些问题使得传统的云计算解决方式很难在未来的工业物联网中被使用。

为了解决上述的问题，在2016年McMahan等人提出了联邦学习。在联邦学习中，边缘端和中心服务器端仅互相传输神经网络的模型参数。因此，中心服务器不会直接获取到边缘设备的本地的私有数据，从而保证了数据隐私的安全性。而且联邦学习对于接入设备的数量没有限制，所以可以很容易的覆盖大规模的设备。但是随着接入设备的不断增加，在中心服务器端，很容易产生网络拥塞，造成很大的时间延迟。而且当服务器出现异常状况时，会直接造成边缘设备也不能正常工作，产生“单点故障”。对于一些距离较远的边缘设备，由于受环境资源的限制，不能及时的传输参数到中心服务器，进而会阻碍联邦学习的进程。

近年来，随着5G技术和工业物联网的不断发展，设备可以直接通过短距离设备到设备(D2D)链路来与在其通信距离内的设备通信。同时，传感器、工厂网关等边缘设备(节点)具有存储、处理和分析本地数据的能力。从而形成了下一代无中心化工业物联网网络，其中边缘设备(传感器)与附近的邻居设备协作，执行大规模、复杂的任务。在此基础上，为了避免联邦学习遇到的问题，一种无中心化分布式联邦学习被提出。在这种无中心化的分布式联邦学习中，中心服务器被移除，所有参与的设备仅与其邻居节点建立通信链路来相互交换模型并聚合达到协作学习的效果。这个方法不仅可以保护数据隐私，而且避免了由于中心服务器的接入设备过多产生的通信瓶颈和由中心服务器故障导致的单点故障。然而由于设备的地理位置和通信距离的限制，使得设备仅可以和部分设备成为邻居并交换信息，导致信息在网络中的混合速度较慢，并影响了分布式联邦学习的效率。在之前的一些研究中，模型聚合的方式往往都是简单的加权平均，或是使用最大度权重或最优恒定边权重等方法来聚合模型。这些方法都不能很好的解决在无中心化分布式联邦学习中信息混合速度慢的问题。此外，这些方法并不会稀疏网络拓扑图，这使得设备在同步通信阶段会消耗很大的时间。

发明内容

有鉴于此，本发明的目的在于提供一种基于马尔可夫链共识的工业物联网分布式联邦学习方法，能够利用当前的网络拓扑情况求出一个最优的共识矩阵来指导参数聚合过程，不仅可以加速设备网络中信息的混合速度，提高设备之间合作的效率，而且对于较为密集的网络拓扑，经过优化共识矩阵后会得到一个稀疏的网络拓扑，从而减少同步通信的时间。

为实现上述目的，本发明采用如下技术方案：

一种基于马尔可夫链共识的工业物联网分布式联邦学习方法，提供一系统，包括调度器和若干物联网设备，包括以下步骤：

步骤S1：调度器获取预设区域内物联网设备的连接情况，得到网络拓扑图；

步骤S2：调度器根据网络拓扑图，利用快速混合马尔可夫链优化问题计算出最优共识矩阵，并将其发送给每个物联网设备；