[发明专利]一种联邦学习系统,方法与装置有效

专利信息
申请号: 202110838897.5 申请日: 2021-07-23
公开(公告)号: CN113435544B 公开(公告)日: 2022-05-17
发明(设计)人: 姚经纬;李书博 申请(专利权)人: 支付宝(杭州)信息技术有限公司
主分类号: G06N20/20 分类号: G06N20/20;G06K9/62;G06N3/04;G06N3/08;H04L67/1097
代理公司: 北京博思佳知识产权代理有限公司 11415 代理人: 李威
地址: 310000 浙江省杭州市*** 国省代码: 浙江;33
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 联邦 学习 系统 方法 装置
【权利要求书】:

1.一种联邦学习系统,包括多个学习节点,与所述多个学习节点通信连接的内容分发网络CDN,以及与所述CDN通信连接的联邦学习协调器;

其中,所述多个学习节点中的各学习节点,向所述CDN发送模型获取请求;

所述CDN,响应于所述模型获取请求,将存储的待训练模型分发至所述各学习节点;

所述各学习节点,响应于接收到的所述CDN分发的待训练模型,根据本地数据对所述待训练模型进行本地训练,得到本地训练后的模型,并将本地训练后的模型发送至所述联邦学习协调器;

所述联邦学习协调器,响应于接收到所述各学习节点发送的模型,对各模型的参数进行聚合,得到聚合模型参数,并根据所述聚合模型参数调整所述待训练模型的参数。

2.根据权利要求1所述的系统,还包括与所述多个学习节点和所述联邦学习协调器均通信连接的模型存储服务端;

所述各学习节点,将本地训练后的模型发送至所述模型存储服务端进行存储;

所述模型存储服务端,响应于所述联邦学习协调器发起的模型获取请求,将各学习节点发送的模型发送至所述联邦学习协调器。

3.根据权利要求2所述的系统,还包括与所述多个学习节点,所述联邦学习协调器和所述CDN均通信连接的参数服务端;

所述联邦学习协调器,响应于发起的联邦学习请求,将所述联邦学习请求包括的待训练模型的模型参数发送至所述参数服务端进行存储;

所述参数服务端,将所述待训练模型发送至所述CDN。

4.根据权利要求3所述的系统,所述各学习节点,根据自身运行状态,确定是否满足联邦学习的参与条件,并在满足所述参与条件的情形下,向所述参数服务端发起联邦学习参与请求;

所述参数服务端,响应于接收到联邦学习参与请求,对发起该请求的学习节点进行接入验证,并在所述学习节点通过所述接入验证的情形下,允许所述学习节点参与联邦学习。

5.根据权利要求4所述的系统,所述联邦学习包括多轮分布式训练;所述联邦学习协调器包括分布式训练的迭代次数;

所述联邦学习协调器,响应于在一轮分布式训练中,完成调整所述待训练模型的参数的情形下,更新维护的迭代次数,并响应于更新后的迭代次数达到预设次数,将调整完成的模型输出作为最终训练模型。

6.根据权利要求5所述的系统,所述联邦学习协调器,响应于更新后的迭代次数未达到所述预设次数,将调整完成的模型作为下一轮分布式训练使用的待训练模型,发送至所述参数服务端进行存储;

所述参数服务端,将所述下一轮分布式训练使用的待训练模型发送至所述CDN,并获取所述CDN返回的存储地址;以及,响应于所述学习节点通过所述接入验证,将所述存储地址发送至所述学习节点;

所述学习节点,响应于接收到所述存储地址,基于所述存储地址向所述CDN发送模型获取请求以获取下一轮分布式训练使用的待训练模型。

7.根据权利要求1所述的系统,所述联邦学习协调器,响应于接收到所述各学习节点发送的模型的数量达到预设阈值,对接收的各模型的参数进行聚合,得到聚合模型参数,并根据所述聚合模型参数调整所述待训练模型的参数。

8.根据权利要求1所述的系统,所述学习节点包括边缘设备。

9.一种联邦学习方法,应用于内容分发网络CDN中的任一节点设备,所述CDN网络与多个用于进行联邦学习的学习节点以及联邦学习协调器通信连接;

所述方法包括:

响应于所述多个学习节点中的各学习节点发送的模型获取请求,将存储的待训练模型分发至所述各学习节点,以使所述各学习节点,响应于接收到的所述CDN分发的待训练模型,根据本地数据对所述待训练模型进行本地训练,得到本地训练后的模型,并将本地训练后的模型发送至所述联邦学习协调器,进行参数进行聚合,得到聚合模型参数,并根据所述聚合模型参数调整所述待训练模型的参数。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于支付宝(杭州)信息技术有限公司,未经支付宝(杭州)信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202110838897.5/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top