[发明专利]边缘场景下动态权重的联邦学习方法在审
申请号: | 202211052967.5 | 申请日: | 2022-08-31 |
公开(公告)号: | CN115526333A | 公开(公告)日: | 2022-12-27 |
发明(设计)人: | 王瑞锦;张凤荔;程帆;张志扬;刘东;陈政 | 申请(专利权)人: | 电子科技大学 |
主分类号: | G06N20/00 | 分类号: | G06N20/00;G06N3/04;G06N3/08 |
代理公司: | 成都众恒智合专利代理事务所(普通合伙) 51239 | 代理人: | 刘沁 |
地址: | 610000 四川省成*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 边缘 场景 动态 权重 联邦 学习方法 | ||
1.一种边缘场景下动态权重的联邦学习方法,其特征在于,包括以下步骤:
S1、边缘服务器筛选若干客户端;
S2、边缘服务器初始化一个全局模型下发给各客户端;
S3、各客户端通过高斯分布更新自身的计算能力值λ*;
S4、对于每一客户端,其根据本地风能数据集对全局模型进行N轮训练;
S5、对于每一客户端,其根据计算能力值λ*和模型训练总时长T,计算设备权重;
S6、对于每一客户端,若其模型训练总时长T大于或等于截止时长Tfinal,则直接执行步骤S7,否则根据最小化目标函数
对训练后的全局模型参数进行优化后,再执行步骤S7,其中,表示客户端k在通信轮数为t+1时通过本地训练得到的loss值,Fk(w)表示第k个客户端所有数据的平均损失,μ代表偏置项的参数,w表示本次本地计算完成的模型参数,wt表示全局模型的参数;
S7、对于每一个客户端,其将全局模型参数和设备权重返回至边缘服务器;
S8、边缘服务器根据各客户端传回的设备权重,对各客户端传回的全局模型参数进行聚合,得到最终全局模型参数。
2.根据权利要求1所述的边缘场景下动态权重的联邦学习方法,其特征在于,在步骤S3中,计算能力值λ*的更新方法具体如下:
设定高斯分布均值μ从[0,1]随机初始化,标准偏差σ从区间[0.25μ,0.5μ]随机初始化,通过在客户端截断(0,μ+2σ)正态分布随机数,得到每一轮的计算能力值λ*。
3.根据权利要求2所述的边缘场景下动态权重的联邦学习方法,其特征在于,在步骤S4中,每一轮训练过程,均需计算模型损失值,用于衡量模型训练的好坏。
4.根据权利要求2所述的边缘场景下动态权重的联邦学习方法,其特征在于,在步骤S4中,训练全局模型的方法包括:通过最小化损失函数,计算得到网络真实输出和真实标签的误差loss,通过网络真实输出和真实标签的误差loss的反向传播得到参数的梯度值,通过随机梯度下降算法进行网络参数优化更新。
5.根据权利要求4所述的边缘场景下动态权重的联邦学习方法,其特征在于,在步骤S4中,风能数据集包括风速风向数据集和发电量数据集。
6.根据权利要求2所述的边缘场景下动态权重的联邦学习方法,其特征在于,在步骤S5中,设备权重的计算公式为λ*/T。
7.根据权利要求6所述的边缘场景下动态权重的联邦学习方法,其特征在于,步骤S6中的截止时长Tfinal的值通过初始设定得到。
8.根据权利要求6所述的边缘场景下动态权重的联邦学习方法,其特征在于,在步骤S6中,对训练后的全局模型参数进行优化,是在已有联邦平均算法得到当前客户端所有数据的平均损失Fk(w)基础上加入一个余项μ||w-wt||2,即取本地局部优化的参数和服务器传过来的全局参数向量的距离差值。
9.根据权利要求8所述的边缘场景下动态权重的联邦学习方法,其特征在于,在步骤S8中,对各客户端传回的全局模型参数进行聚合的公式如下:
其中,为第t边缘服务器和客户端之间的通信轮中,第i客户端返回给边缘服务器的全局模型参数,为第t边缘服务器和客户端之间的通信轮中,第i客户端返回给边缘服务器的设备权重。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于电子科技大学,未经电子科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211052967.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种样品处理保藏及二次采样装置
- 下一篇:一种阻燃型塑壳及其制备方法