[发明专利]联邦模型的训练方法、系统和电子设备在审
申请号: | 202010047786.8 | 申请日: | 2020-01-16 |
公开(公告)号: | CN110874648A | 公开(公告)日: | 2020-03-10 |
发明(设计)人: | 刘磊 | 申请(专利权)人: | 支付宝(杭州)信息技术有限公司 |
主分类号: | G06N20/00 | 分类号: | G06N20/00 |
代理公司: | 北京国昊天诚知识产权代理有限公司 11315 | 代理人: | 许振新 |
地址: | 310000 浙江省杭州市*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 联邦 模型 训练 方法 系统 电子设备 | ||
1.一种联邦模型的训练方法,包括:
服务端生成第一对抗模型参数,将所述第一对抗模型参数发送给客户端;
所述客户端基于产出的生成模型以及所述第一对抗模型参数进行生成对抗训练,输出生成数据;
所述客户端基于真实数据以及所述生成数据进行联邦模型训练以得到第一联邦模型参数,并将所述第一联邦模型参数发送给所述服务端;
所述服务端对来自多个所述客户端的所述第一联邦模型参数进行整合,得到第二联邦模型参数。
2.根据权利要求1所述的方法,所述服务端得到第二联邦模型参数之后,所述方法还包括:
所述服务端判断是否满足联邦模型的收敛条件,并在不满足所述收敛条件的情况下将所述第二联邦模型参数发送给多个所述客户端以进行联邦模型的迭代训练,直至满足联邦模型的收敛条件。
3.根据权利要求2所述的方法,所述客户端输出生成数据后,所述方法还包括:
所述客户端将所述生成数据发送给所述服务端;
所述服务端基于所述生成数据更新所述第一对抗模型参数以得到第二对抗模型参数,并将所述第二对抗模型参数发送给所述客户端;
所述客户端基于产出的生成模型以及所述第二对抗模型参数进行生成对抗训练,输出生成数据以进行联邦模型的迭代训练。
4.根据权利要求1所述的方法,所述客户端得到第一联邦模型参数之后,所述方法还包括:
所述客户端基于所述第一联邦模型参数以及预设的测试样本集进行联邦模型预测,以得到所述第一联邦模型参数对应的预测精度,并将所述预测精度发送给所述服务端;
所述服务端基于所述预测精度确定所述第一联邦模型参数对应的权重,并基于所述第一联邦模型参数和所述权重得到所述第二联邦模型参数。
5.根据权利要求1所述的方法,所述客户端基于所述第一生成对抗网络输出生成数据之后,所述方法还包括:
所述客户端确定所述生成数据占所述真实数据加所述生成数据的比重,并将所述比重发送给所述服务端;
所述服务端基于所述比重确定所述第一联邦模型参数对应的权重,并基于所述第一联邦模型参数和所述权重得到所述第二联邦模型参数。
6.根据权利要求1所述的方法,所述服务端对来自多个所述客户端的所述第一联邦模型参数进行整合,得到第二联邦模型参数包括:
所述服务端基于权重因子确定所述第一联邦模型参数对应的权重,并基于所述第一联邦模型参数和所述权重得到所述第二联邦模型参数;
其中,所述权重因子包括下述至少一种:
所述真实数据的规模量大小;
所述真实数据的数据质量;
所述真实数据的数据安全程度;
多个所述客户端的所述真实数据的重复度;
所述客户端的贡献度。
7.根据权利要求1至6任一项所述的方法,所述服务端生成第一对抗模型参数之前,所述方法还包括:
所述客户端将所述真实数据中的目标数据发送给所述服务端,所述目标数据包括所述真实数据中的私有数据之外的数据;
其中,所述第一对抗模型参数是所述服务端基于所述目标数据生成的。
8.一种联邦模型的训练方法,包括:
客户端接收第一对抗模型参数,所述第一对抗模型参数由服务端生成;
所述客户端基于产出的生成模型以及所述第一对抗模型参数进行生成对抗训练,输出生成数据;
所述客户端基于真实数据以及所述生成数据进行联邦模型训练以得到第一联邦模型参数;
所述客户端将所述第一联邦模型参数发送给所述服务端;其中,所述第一联邦模型参数用于所述服务端对来自多个所述客户端的所述第一联邦模型参数进行整合以得到第二联邦模型参数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于支付宝(杭州)信息技术有限公司,未经支付宝(杭州)信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010047786.8/1.html,转载请声明来源钻瓜专利网。