[发明专利]联邦学习方法、装置、电子设备和介质在审
申请号: | 202111229404.4 | 申请日: | 2021-10-21 |
公开(公告)号: | CN113988318A | 公开(公告)日: | 2022-01-28 |
发明(设计)人: | 陈世武;王炜;江军;杨渝 | 申请(专利权)人: | 北京天融信网络安全技术有限公司;北京天融信科技有限公司;北京天融信软件有限公司 |
主分类号: | G06N20/20 | 分类号: | G06N20/20;G06F21/60;G06F21/62;H04L67/104;H04L9/40 |
代理公司: | 北京开阳星知识产权代理有限公司 11710 | 代理人: | 唐博 |
地址: | 100000 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 联邦 学习方法 装置 电子设备 介质 | ||
本公开涉及一种联邦学习方法、装置、电子设备和介质;其中,该方法包括:响应于技术方发布的开始本轮模型训练的消息,基于本地训练样本集对联邦学习基础模型进行训练,得到本轮训练过程的模型参数值;从区块链系统中获取本轮训练过程的最终模型参数值;根据最终模型参数值,对联邦学习基础模型的参数值进行更新。本公开实施例能够降低数据被恶意篡改和隐私泄露的风险,使不同参与方之间建立不基于信任的协作,提升联邦学习基础模型的准确度。
技术领域
本公开涉及联邦学习领域,尤其涉及一种联邦学习方法、装置、电子设备和介质。
背景技术
目前,各组织和机构在业务开展过程中积累了大量业务数据,但这些数据基本上都以数据孤岛的形式存在,其价值未得到有效利用。
为解决数据孤岛问题并且对数据进行保护,现有技术中通常采用联邦学习方法使得各个参与方能够在不直接交换原始数据的前提下,协同的训练机器学习模型,实现互利共赢。但是,在进行联邦学习模型训练时,训练过程依赖于中心化的协调方,导致联邦学习效率得不到保障。
发明内容
为了解决上述技术问题或者至少部分地解决上述技术问题,本公开提供了一种联邦学习方法、装置、电子设备和介质。
第一方面,本公开提供了一种联邦学习方法,包括:
响应于技术方发布的开始本轮模型训练的消息,基于本地训练样本集对联邦学习基础模型进行训练,得到本轮训练过程的模型参数值;
从区块链系统中获取本轮训练过程的最终模型参数值,其中,所述最终模型参数值由所述区块链系统通过目标汇总聚合节点获取所有模型参数值,并对所有模型参数值进行汇总计算后得到;
根据所述最终模型参数值,对所述联邦学习基础模型的参数值进行更新。
可选的,所述响应于技术方发布的开始本轮模型训练的消息,基于本地训练样本集对联邦学习基础模型进行训练,得到本轮训练过程的模型参数值之前,还包括:
从所述区块链系统中获取目标汇总聚合节点,其中,所述目标汇总聚合节点由所述区块链系统根据预设随机方式确定,所述目标汇总聚合节点的个数大于预设个数。
可选的,所述目标汇总聚合节点包括第一汇总聚合节点;
所述从区块链系统中获取本轮训练过程的最终模型参数值之前,还包括:
根据所述第一汇总聚合节点的公钥对所述模型参数值进行加密,得到第一模型参数值,并将第一模型参数值存储至所述区块链系统中;
相应的,所述最终模型参数值由所述区块链系统在所述第一汇总聚合节点在线时,通过所述第一汇总聚合节点获取所有第一模型参数值,通过所述第一汇总聚合节点的私钥对所有第一模型参数值进行解密,并对解密后得到的所有模型参数值进行汇总计算后得到。
可选的,所述目标汇总聚合节点还包括第二汇总聚合节点;
相应的,所述最终模型参数值由所述区块链系统在所述第一汇总聚合节点不在线时,通过所述第二汇总聚合节点向所述技术方发起数据转换请求,以供所述技术方通过代理重加密方式将所述第一模型参数值转换为第二模型参数值,并将所述第二模型参数值发送给所述第二汇总聚合节点,通过所述第二汇总聚合节点的私钥对所有第二模型参数值进行解密,对解密后得到的所有模型参数值进行汇总计算后得到,其中,所述第二模型参数值为根据所述第二汇总聚合节点的公钥对所述模型参数值进行加密后得到。
可选的,所述根据所述最终模型参数值,对所述联邦学习基础模型的参数值进行更新之后,还包括:
等待开始下一轮模型训练的消息,并响应所述开始下一轮模型训练的消息,进行新一轮的训练过程;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京天融信网络安全技术有限公司;北京天融信科技有限公司;北京天融信软件有限公司,未经北京天融信网络安全技术有限公司;北京天融信科技有限公司;北京天融信软件有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111229404.4/2.html,转载请声明来源钻瓜专利网。