[发明专利]一种基于超网络和区块链的个性化联邦学习方法及设备在审
申请号: | 202211335052.5 | 申请日: | 2022-10-28 |
公开(公告)号: | CN115545223A | 公开(公告)日: | 2022-12-30 |
发明(设计)人: | 张卫山;包致成;刘宇儒;刘原歌;彭亿;聂宇铭 | 申请(专利权)人: | 中国石油大学(华东) |
主分类号: | G06N20/20 | 分类号: | G06N20/20;H04L9/40 |
代理公司: | 青岛鼎丞智佳知识产权代理事务所(普通合伙) 37277 | 代理人: | 王剑伟 |
地址: | 266000 山*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 网络 区块 个性化 联邦 学习方法 设备 | ||
1.一种基于超网络和区块链的个性化联邦学习方法,其特征在于,所述方法应用于联邦中心节点和K个联邦边缘计算节点的场景中,每个边缘计算节点均与联邦中心节点进行相连,所述方法包括如下步骤:
步骤1,联邦边缘计算节点接收联邦中心节点初始化的超模型HNet,开始联邦学习过程;
步骤2,联邦边缘计算节点初始化节点标识向量V,通过区块链网络获取本节点的标签加密向量;
步骤3,联邦边缘计算节点将节点标识向量与标签加密向量输入到由联邦中心节点下发的超模型,生成本地模型LocalNet;
步骤4,联邦边缘计算节点利用本地数据集D,训练本地模型LocalNet,得到训练后的梯度变化Δθ;
步骤5,联邦边缘计算节点根据本地模型的梯度变化Δθ,计算超模型的梯度变化Δφ,并将梯度变化发送到联邦中心节点;
步骤6,联邦边缘计算节点将超模型的梯度变化Δφ发送到联邦中心节点,联邦中心节点对所有的梯度变化量进行平均,并将平均后的超模型梯度变化量,运用梯度下降的方式更新到超模型HNet中;
步骤7,联邦边缘计算节点接收联邦中心节点所发送的更新后的超模型,重复步骤2到步骤6,直到达到指定轮次;
步骤8,联邦边缘计算节点,使用步骤7最终生成的超模型生成各节点模型,评估Fisher信息矩阵,并通过区块链智能合约提交自己的Fisher信息矩阵,评估模型价值,最后获得与自己匹配的个性化层参数,并将获得的个性化层参数融入到本地模型的个性化层中。
2.如权利要求1所述的一种基于超网络和区块链的个性化联邦学习方法,其特征在于,所述步骤2中通过区块链网络获取本节点的标签加密向量,所述加密向量在训练前通过区块链网络获得,并包括如下过程:
S21,在区块链中使用SIBFT共识算法,将共识网络划分成多个子网,并在各个子网分别选举出子网领导者节点SLL和子网候选者领导者节点SCL;
S22,使用智能合约中接收标签函数接收来自节点的标签向量Label vector,子网领导者节点SLL对节点是否含有该标签的数据进行验证,确保信息的真实性;
S23,经验证后,智能合约中加密标签函数使用RSA加密算法生成公钥,使用公钥将Label vector进行非对称加密,并下发到拥有该Label的联邦边缘计算节点。
3.如权利要求1所述的一种基于超网络和区块链的个性化联邦学习方法,其特征在于,所述步骤3中生成本地模型LocalNet的具体过程为:
S31,将节点标识向量V与标签加密向量e输入到超网络HNet的Embedding模块中;
S32,超网络HNet的Embedding模块生成参数模块辨识的中间量Embed;
S33,将生成的Embed输入到由一个多层自动感知机组成的生成参数模块,生成该模型的参数特征Features;
S34,将参数特征Features输入参数存储模块,分别生成本地模型LocalNet主体的各层网络的权重和偏置量;
S35,根据生成本地模型LocalNet主体的各层权重和偏置量,填入模型类中,加载成可供训练和使用的模型。
4.如权利要求1所述的一种基于超网络和区块链的个性化联邦学习方法,其特征在于,所述本地模型LocalNet含有一层本地化层,具体如下:
各联邦边缘计算节点各含有一个属于本节点的本地模型,本地模型包含了模型主体和一层用于本地化的全连接层;
其中模型主体先由超网络HNet在每次训练前进行生成,本地化层在第一次训练前由本地进行初始化,其余轮次在本地节点由之前的训练后保留;
在联邦边缘节点使用本地数据进行训练时,数据先输入到模型主体,模型主体的输出作为个性化层的输入,个性化层的输出作为整个模型的输出,各部分分别进行梯度下降,更新模型参数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国石油大学(华东),未经中国石油大学(华东)许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211335052.5/1.html,转载请声明来源钻瓜专利网。