[发明专利]基于区块链的联邦学习方法、装置和计算机设备在审
申请号: | 202210181449.7 | 申请日: | 2022-02-25 |
公开(公告)号: | CN114372581A | 公开(公告)日: | 2022-04-19 |
发明(设计)人: | 程子文;刘毅;朱承;邓鑫;潘永淇;王博文 | 申请(专利权)人: | 中国人民解放军国防科技大学 |
主分类号: | G06N20/00 | 分类号: | G06N20/00;H04L67/1097 |
代理公司: | 长沙国科天河知识产权代理有限公司 43225 | 代理人: | 邱轶 |
地址: | 410073 湖*** | 国省代码: | 湖南;43 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 区块 联邦 学习方法 装置 计算机 设备 | ||
1.一种基于区块链的联邦学习方法,其特征在于,所述方法包括:
通过分布式账本平台,建立联邦学习区块链网络;所述联邦学习区块链网络中每个边缘终端对应区块链节点,所述边缘终端中存储本地模型和本地数据库,所述边缘终端根据所述本地数据库训练所述本地模型时,得到当前迭代次数对应的本地模型参数和对应的本地梯度,并且通过智能合约上传至区块链节点的状态数据库;
通过智能合约向边缘终端发送上传本地梯度的提案,以使边缘终端根据所述状态数据库中的本地梯度,生成关于所述本地梯度的交易,并写入新的区块;
接收边缘终端发送的聚合智能合约调用请求,使得边缘终端根据所述聚合智能合约调用请求获取新的区块中的本地梯度,并进行梯度聚合,得到聚合梯度;
采用随机梯度算法进行本地模型更新和全局模型更新。
2.根据权利要求1所述的方法,其特征在于,边缘终端根据所述聚合智能合约调用请求获取新的区块中的本地梯度,包括:
根据本轮迭代的所述聚合梯度,确定边缘终端的梯度熵值,以及根据所述梯度熵值确定各个边缘终端的本地梯度的选择概率,根据所述选择概率获取新的区块中的本地梯度。
3.根据权利要求2所述的方法,其特征在于,所述根据本轮迭代的所述聚合梯度,确定边缘终端的梯度熵值,包括:
根据本轮迭代的所述聚合梯度,确定边缘终端的梯度熵值为:
其中,Ei,t(g(Wi,t))表示梯度熵值,p(wi)是根据所述本地梯度与所述聚合梯度的比值得到的,g(Wi,t)表示本地梯度,wi本地模型参数。
4.根据权利要求3所述的方法,其特征在于,根据所述梯度熵值确定各个边缘终端的本地梯度的选择概率,包括:
根据所述梯度熵值确定贡献评估值,根据所述贡献评估值确定各个边缘终端的本地梯度的选择概率;所述贡献评估值为:
其中,St表示进行梯度聚合的边缘终端的数量,Ci,t表示贡献评估值。
5.根据权利要求1所述的方法,其特征在于,所述采用随机梯度算法进行本地模型更新和全局模型更新包括:
确定联邦学习区块链网络可用的边缘终端和不可用的边缘终端;
可用的边缘终端采用随机梯度算法进行全局模型更新;
不可用的边缘终端在恢复通讯后通过智能合约在区块链上查找并接收最新的全局模型,并且根据最新的全局模型更新本地模型。
6.根据权利要求5所述的方法,其特征在于,可用的边缘终端采用随机梯度算法进行全局模型更新;不可用的边缘终端在恢复通讯后通过智能合约在区块链上查找并接收最新的全局模型,并且根据最新的全局模型更新本地模型包括:
可用的边缘终端采用随机梯度算法进行全局模型更新为:
其中,η表示学习率,在第t次迭代训练中的聚合梯度;
不可用的边缘终端在恢复通讯后通过智能合约在区块链上查找并接收最新的全局模型,并且根据最新的全局模型更新本地模型为:
其中,Wi,old表示第i个边缘终端的本地最近一个的模型参数,Wnew表示边缘终端在恢复通讯后接收最新的聚合结果,αi(t)表示权重系数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国人民解放军国防科技大学,未经中国人民解放军国防科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210181449.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:颗粒粉末内外袋包装一体机
- 下一篇:复合相变传热装置、复合热管及终端