[发明专利]基于马尔可夫链共识的工业物联网分布式联邦学习方法在审
申请号: | 202111497630.0 | 申请日: | 2021-12-09 |
公开(公告)号: | CN114139688A | 公开(公告)日: | 2022-03-04 |
发明(设计)人: | 郑海峰;杜孟轩;冯心欣;陈由甲 | 申请(专利权)人: | 福州大学 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06N7/00;G16Y20/20;G16Y40/35 |
代理公司: | 福州元创专利商标代理有限公司 35100 | 代理人: | 陈鼎桂;蔡学俊 |
地址: | 350108 福建省福州市*** | 国省代码: | 福建;35 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 马尔可夫链 共识 工业 联网 分布式 联邦 学习方法 | ||
1.一种基于马尔可夫链共识的工业物联网分布式联邦学习方法,提供一系统,包括调度器和若干物联网设备,其特征在于,包括以下步骤:
步骤S1:调度器获取预设区域内物联网设备的连接情况,得到网络拓扑图;
步骤S2:调度器根据网络拓扑图,利用快速混合马尔可夫链优化问题计算出最优共识矩阵,并将其发送给每个物联网设备;
步骤S3:调度器根据最优共识矩阵得到一个稀疏拓扑图,并将该稀疏拓扑图作为当前网络的拓扑图,使得设备仅与其在稀疏拓扑图中的邻居通信,并利用该稀疏拓扑图构造一个辅助图来制定通信资源的调度策略;
步骤S4:各个物联网设备根据本地存储的数据分别训练一个本地神经网络模型,并在调度器的调度下根据步骤S3得到的调度策略,将训练好的本地神经网络模型广播到它在稀疏拓扑图中的所有邻居设备;
步骤S5:当各个物联网设备都接收到来自邻居的模型之后,在本地根据步骤S2得到的共识矩阵来聚合模型得到新的本地模型。
2.根据权利要求1所述的基于马尔可夫链共识的工业物联网分布式联邦学习方法,其特征在于,所述步骤S1具体为:
对于部署在预设区域内的物联网设备,通过短距离的D2D链路与在其通信范围内的邻居设备进行通信,构成一个无中心化的网络;
各个物联网设备将当前的连接情况发送给调度器来获取设定区域内的完整的网络拓扑图
G=(V,E)。
其中,V代表网络中的设备,E代表设备之间的边也就是设备之间的连接情况。
3.根据权利要求1所述的基于马尔可夫链共识的工业物联网分布式联邦学习方法,其特征在于,所述步骤S2具体为:
将快速混合马尔可夫链优化问题表示为如下问题:
minρ
其中,ρ表示共识矩阵C的第二大特征值,设λk(C)表示C的数值上第k大特征值,则ρ=max{|λ2(C)|,|-λm(C)|},1表示一个数值全为1的列向量,ci,j表示矩阵C中第i行第j列的元素值,即设备i和j相连的边的权重,其中矩阵C为优化变量;
通过解决上述优化问题,得到一个有最小第二大特征值的共识矩阵C,进一步的,将上式改写为如下所示的半正定优化问题:
mins
其中,是一个加权拉普拉斯矩阵,是根据拓扑图G得到的关联矩阵,I表示单位矩阵,e=(e1,...,em)是拓扑图中所有边的权重组成的向量,diag(e)是一个对角矩阵其对角线元素为e中的元素;和s是优化变量;
通过标准的半正定优化器来优化上述优化问题,最终共识矩阵通过得到。
4.根据权利要求1所述的基于马尔可夫链共识的工业物联网分布式联邦学习方法,其特征在于,所述步骤S3具体为:
步骤S31:根据最优共识矩阵,对矩阵中权重为0的边不建立通信链路,进一步得到稀疏网络拓扑图G';
步骤S32:将稀疏网络拓扑图G'作为当前的网络拓扑图,使设备仅与其在G'中的邻居建立通信;
步骤S33:使用IEEE 802.15.4e中的时隙信道跳频TSCH媒体接入层协议建立一个高可靠低延迟的工业物联网网络;
步骤S34:对于TSCH的调度策略,首先根据已经得到的稀疏的网络拓扑图G'来构造一个辅助拓扑图并对得到的辅助拓扑图执行贪婪图着色算法。
5.根据权利要求1所述的基于马尔可夫链共识的工业物联网分布式联邦学习方法,其特征在于,所述物联网设备的本地神经网络模型的训练,具体为:
其中wi,t表示在第t次迭代时,设备i本地的模型,μ为学习率,表示本地损失函数的梯度。
6.根据权利要求1所述的基于马尔可夫链共识的工业物联网分布式联邦学习方法,其特征在于,所述步骤S5具体为:在每个设备都收到来自所有邻居的模型之后,在本地执行模型聚合的过程如下:
其中wi,t为第i个设备本地的模型,为可以与设备i建立通信链路的邻居j的本地模型,为设备i的邻居集,ci,j和ci,i是在步骤S2中计算出的共识矩阵C中的元素值;
对于所有设备执行模型聚合的过程用矩阵的形式表示为:
其中C为步骤S2中求出的共识矩阵。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于福州大学,未经福州大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111497630.0/1.html,转载请声明来源钻瓜专利网。