[发明专利]融合公域数据和私有数据的联盟学习方法、装置和系统有效
申请号: | 202010048788.9 | 申请日: | 2020-01-16 |
公开(公告)号: | CN110874650B | 公开(公告)日: | 2020-04-24 |
发明(设计)人: | 刘磊 | 申请(专利权)人: | 支付宝(杭州)信息技术有限公司 |
主分类号: | G06N20/00 | 分类号: | G06N20/00;G06F21/62;G06F21/60 |
代理公司: | 北京国昊天诚知识产权代理有限公司 11315 | 代理人: | 许振新 |
地址: | 310000 浙江省杭州市*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 融合 数据 私有 联盟 学习方法 装置 系统 | ||
1.一种融合公域数据和私有数据的联盟学习方法,包括:
联盟中的第一成员节点将基于本地数据训练得到的模型参数,发送至所述联盟中的第二成员节点,其中,所述第一成员节点是所述联盟中不参与模型参数整合的成员节点,所述第二成员节点是所述联盟中参与模型参数整合的成员节点,所述本地数据包括本地私有数据;
所述第二成员节点对所述联盟中的至少两个第一成员节点发送的模型参数进行整合,得到第一目标模型参数;
所述第二成员节点基于公域数据对所述第一目标模型参数进行更新,得到第二目标模型参数,其中,所述公域数据是所述第二成员节点收集的来自所述联盟中的至少一个第一成员节点的非私有数据,所述公域数据随着迭代次数的增加不断更新;
所述第二成员节点将所述第二目标模型参数发送至所述联盟中的第一成员节点;
所述联盟中的第一成员节点基于所述第二目标模型参数和本地数据再次进行本地训练。
2.根据权利要求1所述的方法,在所述第二成员节点基于公域数据对所述第一目标模型参数进行更新之前,还包括:
所述联盟中的第一成员节点将本地非私有数据发送至所述第二成员节点。
3.根据权利要求2所述的方法,
所述联盟中的第一成员节点进行本地训练时采用的本地数据包括:本地私有数据和发送至所述第二成员节点的非私有数据。
4.根据权利要求1所述的方法,在所述联盟中的第一成员节点进行第一次本地训练前,还包括:
所述第二成员节点基于所述公域数据训练初始模型参数;
所述第二成员节点将所述初始模型参数发送至所述联盟中的第一成员节点;
其中,所述联盟中的第一成员节点在进行第一次本地训练时,基于所述初始模型参数和本地数据进行训练。
5.根据权利要求1所述的方法,其中,所述第二成员节点对所述联盟中的至少两个第一成员节点发送的模型参数进行整合,得到第一目标模型参数,包括:
所述第二成员节点对所述联盟中的至少两个第一成员节点发送的模型参数进行加权计算,得到第一目标模型参数。
6.根据权利要求5所述的方法,在所述第二成员节点对所述联盟中的至少两个第一成员节点发送的模型参数进行加权计算,得到第一目标模型参数之前,还包括:
基于预设规则确定所述联盟中的第一成员节点发送的模型参数的权重。
7.根据权利要求6所述的方法,其中,所述基于预设规则确定所述联盟中的第一成员节点发送的模型参数的权重,包括:
基于所述联盟中的第一成员节点进行本地训练时所使用的本地数据量,确定所述联盟中的第一成员节点发送的模型参数的权重。
8.根据权利要求7所述的方法,其中,所述基于所述联盟中的第一成员节点进行本地训练时所使用的本地数据量,确定所述联盟中的第一成员节点发送的模型参数的权重,包括:
基于所述联盟中的第一成员节点进行本地训练时所使用的本地私有数据量,确定所述联盟中的第一成员节点发送的模型参数的权重。
9.根据权利要求6所述的方法,所述联盟中的一个第一成员节点发送的模型参数用一个向量表示,其中,所述基于预设规则确定所述联盟中的第一成员节点发送的模型参数的权重,包括:
基于所述联盟中的第一成员节点发送的模型参数与中心模型参数之间的距离,确定所述联盟中的第一成员节点发送的模型参数的权重,所述中心模型参数是基于所述联盟中的至少两个第一成员节点发送的模型参数确定的。
10.根据权利要求1-9任一项所述的方法,在所述第二成员节点将所述第二目标模型参数发送至所述联盟中的第一成员节点之前,还包括:
判断是否满足预设迭代终止条件;
若满足,结束联盟学习;
若不满足,再由所述第二成员节点将所述第二目标模型参数发送至所述联盟中的第一成员节点。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于支付宝(杭州)信息技术有限公司,未经支付宝(杭州)信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010048788.9/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置