[发明专利]一种基于联邦增量学习的工业物联网数据共享方法有效
申请号: | 202110693388.8 | 申请日: | 2021-06-22 |
公开(公告)号: | CN113469370B | 公开(公告)日: | 2022-08-30 |
发明(设计)人: | 刘晶;董志红;季海鹏;王岩 | 申请(专利权)人: | 河北工业大学 |
主分类号: | G06N20/00 | 分类号: | G06N20/00 |
代理公司: | 天津企兴智财知识产权代理有限公司 12226 | 代理人: | 蒋宏洋 |
地址: | 300450 天津*** | 国省代码: | 天津;12 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 联邦 增量 学习 工业 联网 数据 共享 方法 | ||
1.一种基于联邦增量学习的工业物联网数据共享方法,其特征在于,包括下述步骤:
S1.针对工厂子端大量新增数据与原行业联合模型融合问题,提出一种联邦增量学习算法;
S2.工厂子端学习状态监控子模块负责监控工厂子端学习状态,包括参数深度值与增量样本数量;
S3.工厂子端加权计算子模块根据学习状态信息的参数深度值与增量样本数据量计算对应样本的增量加权;
S4.工厂子端参数修正子模块将上传的工厂子端模型参数根据增量加权进行修正;
S5.针对工厂子端数据量不均衡问题,提出一种联邦优选子端算法,将数据量不均衡问题转化对工厂子端等级值的比较,以避免弱势工厂子端数据被覆盖;
S6.在行业联合端等级值计算子模块基于工厂子端性能马氏距离计算工厂子端等级值;
S7.在行业联合端等级值排序子模块对工厂子端等级值进行排序,并选择参与本次模型参数聚合的参与子集;
S8.行业联合端参数更新子模块对属于参与子集的工厂子端根据修正完的模型参数进行行业联合模型参数更新;
所述步骤S3中,采用在加权计算子模块根据学习状态信息的参数深度值与增量样本数据计算对应样本的增量加权,具体为:
1-1)增量权值:表示工厂子端新增样本数在原样本总数中占比大小。
工厂子端k的增量权值可由新增样本数与总样本数求得:
其中,Ik为工厂子端k新增的样本数,Dk为工厂子端k原样本总数,γk表示工厂子端k增量权值。
1-2)参数优化过程中具有一定的深度值,令参数深度值为
其中,t代表轮次的标号,表示工厂子端k在t轮次的参数深度值。
1-3)为了使参数深度值越大的工厂子端其增量加权越小,且衰减的过程相对平缓,选择反正切函数arctan作为增量加权的衰减函数:
1-4)联邦学习框架下,每一轮仅更新参与子集中的工厂子端,根据工厂子端模型的参数深度值确定模型对聚合操作的贡献可有效利用历史信息,并区分各工厂子端模型利用价值,可望提高聚合操作的有效性,因而进一步关注工厂子端模型的参数深度值,提出改进聚合策略:
其中,表示工厂子端k在通信轮次t+1时的模型参数,nk表示工厂子端k所拥有的本地数据量,n表示所有工厂子端拥有的数据量,ωt+1表示通信轮次t+1时的行业联合模型参数,表示工厂子端k在通讯轮次t+1时的增量加权。
在联邦增量学习过程中,工厂子端提交的模型参数要经过增量加权的修正才能参与行业联合模型优化。修正后的参数在行业联合端上根据具体的优化算法更新模型参数,优化结束后,工厂子端重新获得最新的行业联合模型参数并将其覆盖本地模型参数,进行下一轮迭代学习。
2.根据权利要求1所述的一种基于联邦增量学习的工业物联网数据共享方法,其特征在于:所述步骤S6中,采用在等级值计算子模块基于工厂子端性能马氏距离计算工厂子端等级值,具体为:
假设两个工厂子端分别为则与协方差S的计算式为:
其中,μx=E(xi);μy=E(yi),E表示期望,Cov表示协方差,acc表示工厂子端准确率,loss表示工厂子端损失值,kappa表示工厂子端kappa值。
两个来自同一分布的工厂子端和的马氏距离的计算式为:
其中,表示取转置。
进而推出工厂子端i等级值SDi:
其中,i≠j,K表示所有工厂子端的数量。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于河北工业大学,未经河北工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110693388.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种修复土壤石油烃的方法
- 下一篇:复重构密钥的序列加密方法