[发明专利]一种基于区块链的群组协同学习方法在审
申请号: | 202210118367.8 | 申请日: | 2022-02-08 |
公开(公告)号: | CN114626547A | 公开(公告)日: | 2022-06-14 |
发明(设计)人: | 仇超;任晓旭;陈哲远;王晓飞;曹一凡;王梓蔚 | 申请(专利权)人: | 天津大学 |
主分类号: | G06N20/00 | 分类号: | G06N20/00;G06K9/62;G06F21/62;G06Q50/04 |
代理公司: | 深圳众邦专利代理有限公司 44545 | 代理人: | 杜娟 |
地址: | 300072*** | 国省代码: | 天津;12 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 区块 协同 学习方法 | ||
本发明公开了一种基于区块链的群组协同学习方法,包括:S1,基于区块链构建协同学习模型,划分训练集和测试集;S2,预设智能合约模块,设置初始模型参数、全局聚合轮数和初始迭代次数,划分局部训练组;S3,选取局部训练组中信用最高的节点为领导节点,其它为训练节点,所有领导节点组成全局聚合组;S4,训练节点本地训练得到本地训练模型,领导节点利用联邦学习聚合得到本地模型;S5,全局聚合组聚合本地模型得到全局模型;S6,领导节点验证本地模型,根据验证准确率和历史信用更新边缘节点的信用;S7,更新初始模型参数,判断i<I,如果是执行i=i+1返回S3。本发明不仅有效降低了无线通信延迟,还增强了协同学习效率。
技术领域
本发明属于工业边缘数据处理技术领域,具体涉及一种基于区块链的群组协同学习方法。
背景技术
在工业4.0时代,复杂的计算任务和伴随而来的海量数据为机器学习和分散的工业边缘提供了巨大的发展潜能。联邦学习(FederatedLearning,FL)作为一种分布式机器学习,在解决数据隐私问题的同时降低隐私泄露风险,为工业边缘提供了一种潜在的解决方案。然而,由于高延迟无线通信、强异构性、低安全性等原因,传统的联邦学习难以处理工业4.0场景下的大规模任务。
另外,一般情况下,在联邦学习过程的每次迭代中,所有客户端都需要将自己的本地训练模型参数上传到中心服务器,聚合完毕后,联邦学习中心服务器需要将全局模型广播给每个客户端,这在无线网络上造成巨大的无线通信压力和延迟。在工业4.0场景中,大量的分布式设备分布在不同的位置。此外,这些设备具有异构的算力和数据属性,因此将这些异构设备训练的模型聚合为单个模型可能会极大地降低收敛性。传统的联邦学习容易出现单点故障和一些安全问题。如果恶意客户端将错误的模型上传到中心服务器,则聚合的全局模型的性能将会极大退化,进而影响下一次迭代的局部训练,导致协同学习效果降低。
发明内容
针对利用现有联邦学习进行聚合时产生协同学习效果降低的技术问题,本发明提出了一种基于区块链的群组协同学习方法,利用区块链的去中心化、开放和透明的数据存储技术提高了协同学习的效率。为解决以上技术问题,本发明所采用的技术方案如下:
一种基于区块链的群组协同学习方法,包括如下步骤:
S1,基于区块链技术构建工业边缘所对应的协同学习模型,将工业边缘中的所有边缘节点划分为训练集和测试集;
S2,在区块链中预设智能合约模块,设置初始模型参数、全局聚合轮数I和初始迭代次数i=1,采用分区聚类方法对训练集中的边缘节点进行局部训练组划分;
S3,选取每个局部训练组中信用最高的边缘节点作为领导节点,其它边缘节点均为训练节点,并由所有局部训练组的领导节点组成全局聚合组;
S4,每个训练节点利用神经网络和初始模型参数进行本地训练得到本地训练模型,领导节点利用联邦学习方法对接收到的本地训练模型进行聚合得到本地模型;
S5,智能合约模块触发全局聚合,全局聚合组对接收到的本地模型进行聚合得到全局模型;
S6,每个局部训练组的领导节点利用测试集验证本地模型,根据验证准确率和历史信用更新所有边缘节点的信用;
S7,根据全局模型更新初始模型参数,判断i<I,如果是执行i=i+1并返回步骤S3,否则结束。
在步骤S2中,所述智能合约模块包括:
节点注册模块:根据信用对边缘节点的角色进行划分,所述角色包括训练节点和领导节点;
本地模型生成模块:训练节点基于训练集和全局模型生成本地训练模型,领导节点将上一轮计算的信用归一化后作为本轮权重对本地训练模型进行聚合生成本地模型;
本地模型上传模块:本地模型生成后,领导节点将本地模型的模型参数上传至区块链;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于天津大学,未经天津大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210118367.8/2.html,转载请声明来源钻瓜专利网。