[发明专利]联邦学习方法及装置在审
申请号: | 202111436383.3 | 申请日: | 2021-11-29 |
公开(公告)号: | CN114117920A | 公开(公告)日: | 2022-03-01 |
发明(设计)人: | 王美娟 | 申请(专利权)人: | 新华三技术有限公司 |
主分类号: | G06F30/27 | 分类号: | G06F30/27;G06N20/00 |
代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 王剑 |
地址: | 310052 浙*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 联邦 学习方法 装置 | ||
本申请提供一种联邦学习方法及装置。该方法中,服务器接收并记录客户端在本地模型训练后上传的模型参数;并对已记录的各客户端的模型参数进行聚合,得到新的模型参数;将该新的模型参数下发给客户端,使客户端根据该新的模型参数继续训练本地模型。本申请不需要各客户端同时在线传参,各客户端可根据自身情况动态加入联邦学习,从而降低联邦学习的难度,提升联邦学习灵活性。
技术领域
本申请涉及计算机技术领域,尤其涉及一种联邦学习方法及装置。
背景技术
联邦学习又名联邦机器学习、联合学习、联盟学习,是一个机器学习框架,在满足各参与方用户隐私保护(数据不出本地)、数据安全以及政府法规的情况下,通过多方数据联合训练(联合建模),共享建模成果,有效解决数据孤岛问题。
现有联邦学习框架,比如,联邦智能使能器(英文:Federated AI TechnologyEnabler,缩写:FATE),要求联邦学习过程中所有参与方必须同时一直在线。但是,实际应用中很难保证所有参与方同时一直在线,这无疑增加了联邦学习的难度。
发明内容
有鉴于此,本申请提出一种联邦学习方法及装置,用以降低联邦学习难度,提升联邦学习的灵活性。
为实现上述申请目的,本申请提供了如下技术方案:
第一方面,本申请提供一种联邦学习方法,应用于联邦系统包括的服务器,所述联邦系统还包括多个客户端,所述方法包括:
接收目标客户端发送的参数上传请求,所述参数上传请求包括所述目标客户端本地模型训练后提取的第一模型参数;
本地记录所述目标客户端的第一模型参数;
对已记录的各客户端的第一模型参数进行聚合,得到第二模型参数;
向所述目标客户端下发所述第二模型参数,以使所述目标客户端基于所述第二模型参数继续训练本地模型。
可选的,所述向所述目标客户端下发所述第二模型参数,包括:
接收所述目标客户端发送的参数更新请求;
基于接收到的参数更新请求向所述目标客户端下发所述第二模型参数。
可选的,所述服务器预先配置有用于接收参数上传请求的第一端口,以及用于接收参数更新请求的第二端口,所述接收目标客户端发送的参数上传请求,包括:
通过监听所述第一端口,接收所述目标客户端发送的参数上传请求;
所述接收所述目标客户端发送的参数更新请求,包括:
通过监听所述第二端口,接收所述目标客户端发送的参数更新请求。
可选的,所述对已记录的各客户端的第一模型参数进行聚合,得到第二模型参数,包括:
对已记录的各客户端的第一模型参数进行加权平均,得到所述第二模型参数。
可选的,所述方法还包括:
记录所述第一模型参数的接收时间;
如果当前时间与所述接收时间的差值大于预设差值阈值,删除所述第一模型参数。
第二方面,本申请提供一种联邦学习方法,应用于联邦系统包括的客户端,所述联邦系统还包括服务器,所述方法包括:
通过本地模型训练,提取训练后模型的第一模型参数;
向所述服务器发送参数上传请求,所述参数上传请求包括所述第一模型参数,以使所述服务器本地记录所述客户端的第一模型参数,并对已记录的各客户端的第一模型参数进行聚合,得到第二模型参数;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于新华三技术有限公司,未经新华三技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111436383.3/2.html,转载请声明来源钻瓜专利网。