[发明专利]一种联邦学习系统,方法与装置有效
申请号: | 202110838897.5 | 申请日: | 2021-07-23 |
公开(公告)号: | CN113435544B | 公开(公告)日: | 2022-05-17 |
发明(设计)人: | 姚经纬;李书博 | 申请(专利权)人: | 支付宝(杭州)信息技术有限公司 |
主分类号: | G06N20/20 | 分类号: | G06N20/20;G06K9/62;G06N3/04;G06N3/08;H04L67/1097 |
代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 李威 |
地址: | 310000 浙江省杭州市*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 联邦 学习 系统 方法 装置 | ||
1.一种联邦学习系统,包括多个学习节点,与所述多个学习节点通信连接的内容分发网络CDN,以及与所述CDN通信连接的联邦学习协调器;
其中,所述多个学习节点中的各学习节点,向所述CDN发送模型获取请求;
所述CDN,响应于所述模型获取请求,将存储的待训练模型分发至所述各学习节点;
所述各学习节点,响应于接收到的所述CDN分发的待训练模型,根据本地数据对所述待训练模型进行本地训练,得到本地训练后的模型,并将本地训练后的模型发送至所述联邦学习协调器;
所述联邦学习协调器,响应于接收到所述各学习节点发送的模型,对各模型的参数进行聚合,得到聚合模型参数,并根据所述聚合模型参数调整所述待训练模型的参数。
2.根据权利要求1所述的系统,还包括与所述多个学习节点和所述联邦学习协调器均通信连接的模型存储服务端;
所述各学习节点,将本地训练后的模型发送至所述模型存储服务端进行存储;
所述模型存储服务端,响应于所述联邦学习协调器发起的模型获取请求,将各学习节点发送的模型发送至所述联邦学习协调器。
3.根据权利要求2所述的系统,还包括与所述多个学习节点,所述联邦学习协调器和所述CDN均通信连接的参数服务端;
所述联邦学习协调器,响应于发起的联邦学习请求,将所述联邦学习请求包括的待训练模型的模型参数发送至所述参数服务端进行存储;
所述参数服务端,将所述待训练模型发送至所述CDN。
4.根据权利要求3所述的系统,所述各学习节点,根据自身运行状态,确定是否满足联邦学习的参与条件,并在满足所述参与条件的情形下,向所述参数服务端发起联邦学习参与请求;
所述参数服务端,响应于接收到联邦学习参与请求,对发起该请求的学习节点进行接入验证,并在所述学习节点通过所述接入验证的情形下,允许所述学习节点参与联邦学习。
5.根据权利要求4所述的系统,所述联邦学习包括多轮分布式训练;所述联邦学习协调器包括分布式训练的迭代次数;
所述联邦学习协调器,响应于在一轮分布式训练中,完成调整所述待训练模型的参数的情形下,更新维护的迭代次数,并响应于更新后的迭代次数达到预设次数,将调整完成的模型输出作为最终训练模型。
6.根据权利要求5所述的系统,所述联邦学习协调器,响应于更新后的迭代次数未达到所述预设次数,将调整完成的模型作为下一轮分布式训练使用的待训练模型,发送至所述参数服务端进行存储;
所述参数服务端,将所述下一轮分布式训练使用的待训练模型发送至所述CDN,并获取所述CDN返回的存储地址;以及,响应于所述学习节点通过所述接入验证,将所述存储地址发送至所述学习节点;
所述学习节点,响应于接收到所述存储地址,基于所述存储地址向所述CDN发送模型获取请求以获取下一轮分布式训练使用的待训练模型。
7.根据权利要求1所述的系统,所述联邦学习协调器,响应于接收到所述各学习节点发送的模型的数量达到预设阈值,对接收的各模型的参数进行聚合,得到聚合模型参数,并根据所述聚合模型参数调整所述待训练模型的参数。
8.根据权利要求1所述的系统,所述学习节点包括边缘设备。
9.一种联邦学习方法,应用于内容分发网络CDN中的任一节点设备,所述CDN网络与多个用于进行联邦学习的学习节点以及联邦学习协调器通信连接;
所述方法包括:
响应于所述多个学习节点中的各学习节点发送的模型获取请求,将存储的待训练模型分发至所述各学习节点,以使所述各学习节点,响应于接收到的所述CDN分发的待训练模型,根据本地数据对所述待训练模型进行本地训练,得到本地训练后的模型,并将本地训练后的模型发送至所述联邦学习协调器,进行参数进行聚合,得到聚合模型参数,并根据所述聚合模型参数调整所述待训练模型的参数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于支付宝(杭州)信息技术有限公司,未经支付宝(杭州)信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110838897.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种产品测试的机械工装
- 下一篇:一种夹具及输送系统