[发明专利]联邦学习方法、装置、电子设备和介质在审
申请号: | 202111229404.4 | 申请日: | 2021-10-21 |
公开(公告)号: | CN113988318A | 公开(公告)日: | 2022-01-28 |
发明(设计)人: | 陈世武;王炜;江军;杨渝 | 申请(专利权)人: | 北京天融信网络安全技术有限公司;北京天融信科技有限公司;北京天融信软件有限公司 |
主分类号: | G06N20/20 | 分类号: | G06N20/20;G06F21/60;G06F21/62;H04L67/104;H04L9/40 |
代理公司: | 北京开阳星知识产权代理有限公司 11710 | 代理人: | 唐博 |
地址: | 100000 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 联邦 学习方法 装置 电子设备 介质 | ||
1.一种联邦学习方法,其特征在于,所述方法包括:
响应于技术方发布的开始本轮模型训练的消息,基于本地训练样本集对联邦学习基础模型进行训练,得到本轮训练过程的模型参数值;
从区块链系统中获取本轮训练过程的最终模型参数值,其中,所述最终模型参数值由所述区块链系统通过目标汇总聚合节点获取所有模型参数值,并对所有模型参数值进行汇总计算后得到;
根据所述最终模型参数值,对所述联邦学习基础模型的参数值进行更新。
2.根据权利要求1所述的方法,其特征在于,所述响应于技术方发布的开始本轮模型训练的消息,基于本地训练样本集对联邦学习基础模型进行训练,得到本轮训练过程的模型参数值之前,还包括:
从所述区块链系统中获取目标汇总聚合节点,其中,所述目标汇总聚合节点由所述区块链系统根据预设随机方式确定,所述目标汇总聚合节点的个数大于预设个数。
3.根据权利要求1所述的方法,其特征在于,所述目标汇总聚合节点包括第一汇总聚合节点;
所述从区块链系统中获取本轮训练过程的最终模型参数值之前,还包括:
根据所述第一汇总聚合节点的公钥对所述模型参数值进行加密,得到第一模型参数值,并将第一模型参数值存储至所述区块链系统中;
相应的,所述最终模型参数值由所述区块链系统在所述第一汇总聚合节点在线时,通过所述第一汇总聚合节点获取所有第一模型参数值,通过所述第一汇总聚合节点的私钥对所有第一模型参数值进行解密,并对解密后得到的所有模型参数值进行汇总计算后得到。
4.根据权利要求3所述的方法,其特征在于,所述目标汇总聚合节点还包括第二汇总聚合节点;
相应的,所述最终模型参数值由所述区块链系统在所述第一汇总聚合节点不在线时,通过所述第二汇总聚合节点向所述技术方发起数据转换请求,以供所述技术方通过代理重加密方式将所述第一模型参数值转换为第二模型参数值,并将所述第二模型参数值发送给所述第二汇总聚合节点,通过所述第二汇总聚合节点的私钥对所有第二模型参数值进行解密,对解密后得到的所有模型参数值进行汇总计算后得到,其中,所述第二模型参数值为根据所述第二汇总聚合节点的公钥对所述模型参数值进行加密后得到。
5.根据权利要求1所述的方法,其特征在于,所述根据所述最终模型参数值,对所述联邦学习基础模型的参数值进行更新之后,还包括:
等待开始下一轮模型训练的消息,并响应所述开始下一轮模型训练的消息,进行新一轮的训练过程;
响应于所述技术方发布的所述联邦学习基础模型的训练过程结束的消息,并根据所述消息结束所述联邦学习基础模型的训练过程。
6.根据权利要求5所述的方法,其特征在于,所述消息由所述技术方确定新的最终模型参数值满足预设精度或者训练轮数达到预设阈值后发布。
7.根据权利要求1-6任一项所述的方法,其特征在于,所述本地训练样本集通过以下方式得到:
根据本地数据的类型,调用所述技术方提供的数据规范样式和/或训练样本集生成工具,从所述本地数据中提取生成所述本地训练样本集所需的特征;
根据所述特征生成所述联邦学习基础模型对应的本地训练样本集。
8.一种联邦学习装置,其特征在于,所述装置包括:
训练模块,用于响应于技术方发布的开始本轮模型训练的消息,基于本地训练样本集对联邦学习基础模型进行训练,得到本轮训练过程的模型参数值;
获取模块,用于从区块链系统中获取本轮训练过程的最终模型参数值,其中,所述最终模型参数值由所述区块链系统通过目标汇总聚合节点获取所有模型参数值,并对所有模型参数值进行汇总计算后得到;
更新模块,用于根据所述最终模型参数值,对所述联邦学习基础模型的参数值进行更新。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京天融信网络安全技术有限公司;北京天融信科技有限公司;北京天融信软件有限公司,未经北京天融信网络安全技术有限公司;北京天融信科技有限公司;北京天融信软件有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111229404.4/1.html,转载请声明来源钻瓜专利网。