[发明专利]面向智慧城市物联网信物融合的联邦学习系统及联邦学习训练方法在审
申请号: | 202210111366.0 | 申请日: | 2022-01-29 |
公开(公告)号: | CN114584581A | 公开(公告)日: | 2022-06-03 |
发明(设计)人: | 陈铭松;张帆;李一鸣;裴秋旭 | 申请(专利权)人: | 华东师范大学 |
主分类号: | H04L67/12 | 分类号: | H04L67/12;G06N20/00;H04L67/01;H04L67/02;H04L43/10;H04L43/0805;G16Y10/75;G16Y40/10 |
代理公司: | 上海德禾翰通律师事务所 31319 | 代理人: | 夏思秋 |
地址: | 200241 *** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 面向 智慧 城市 联网 信物 融合 联邦 学习 系统 训练 方法 | ||
1.一种面向智慧城市物联网信物融合的联邦学习系统,其特征在于,所述联邦学习系统包括设备端和服务端;其中,
所述设备端包括消息队列遥测传输协议MQTT、训练线程、心跳发送线程;
所述服务端包括消息队列遥测传输协议MQTT、模型聚合线程、任务调度线程、心跳监测线程。
2.如权利要求1所述的联邦学习系统,其特征在于,所述训练线程用于接收服务端下发的模型与任务,利用本地数据进行本地训练,并将训练好的模型上传至服务端;
所述心跳发送线程用于周期性发送心跳信号至服务端;
所述模型聚合线程用于接收设备端发送的本地模型,按照模型聚合策略进行聚合,得到全局模型;
所述任务调度线程用于从接入的设备中选择当前轮次进行训练的设备,并下发全局模型给相应被选择的设备;
所述心跳监测线程用于接收各设备发送的心跳信号,监测设备当前是否在线,并及时处理离线或者重连的设备。
3.如权利要求1所述的联邦学习系统,其特征在于,所述设备端接入服务端和设备端与服务端之间的通信交互功能通过MQTT物联网通信技术和web服务框架flask实现。
4.如权利要求1所述的联邦学习系统,其特征在于,所述系统中还应用了设备在线实时检测机制,当所述设备接入MQTT后,周期性向服务端发送心跳信号,所述服务端根据接收获得的设备心跳信号,判断设备是否在线或者重连;若设备离线,则服务端暂时从任务调度池剔除该设备;若设备重新连接,则服务端重新加入该设备至任务调度池中,让设备重新参与到模型聚合中。
5.一种利用如权利要求1-4之任一项所述的联邦学习系统实现的联邦学习训练方法,其特征在于,所述联邦学习训练方法包括如下步骤:
步骤一、服务器初始化全局模型;
步骤二、在每一个通信回合中,服务器根据参与节点的数量和自身的通信带宽限制,选择至少一个设备参与训练,随后向被选择的设备发送全局模型;
步骤三、步骤二中的设备接收到消息后,将全局模型作为初始模型,基于模型分层加权的距离约束方法在本地执行训练并更新模型;
步骤四、步骤三中各设备更新的模型重新上传到服务器中;
步骤五、服务器将更新后的模型按照基于模型分层的滑动聚合更新策略与设备分组策略进行聚合,得到新的全局模型,进入下一个通信回合;
步骤六、当服务器完成预设的通信回合数后,视为完成联邦学习训练过程,服务器将最新的全局模型发送至所有参与设备,并发送停止训练指令;
步骤七、设备接收到最新的全局模型和停止训练指令后,停止相关线程,并将全局模型其保存于本地,用于后续模型部署和任务预测。
6.如权利要求5所述的联邦学习训练方法,其特征在于,根据步骤三中设备在本地对模型进行训练更新的时间对设备进行分组,将耗时相近的设备划分为同一组;在同一组中,用时最少的设备和用时最多的设备之间的时间差值不超过一个预先设定的阈值。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华东师范大学,未经华东师范大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210111366.0/1.html,转载请声明来源钻瓜专利网。