[发明专利]联邦模型的训练方法、装置和电子设备在审
申请号: | 202110839499.5 | 申请日: | 2021-07-23 |
公开(公告)号: | CN113592097A | 公开(公告)日: | 2021-11-02 |
发明(设计)人: | 冯泽瑾;杨恺;陈忠;范昊;陈晓霖;王虎;黄志翔;彭南博 | 申请(专利权)人: | 京东科技控股股份有限公司 |
主分类号: | G06N20/00 | 分类号: | G06N20/00 |
代理公司: | 北京清亦华知识产权代理事务所(普通合伙) 11201 | 代理人: | 张梦瑶 |
地址: | 100176 北京市北京经济*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 联邦 模型 训练 方法 装置 电子设备 | ||
1.一种联邦模型的训练方法,其特征在于,应用于业务方,所述方法包括:
基于样本标签信息和样本特征信息,协同数据方进行联邦模型的训练,以获取联邦模型的中间结果,其中,所述联邦模型的中间结果包括每个所述样本对应的损失函数的一阶导数和二阶导数;
对所述样本的一阶导数和二阶导数进行联合加密,以得到所述样本对应的加密导数;
将所述样本对应的加密导数发送至数据方,其中,所述样本对应的加密导数用于生成加密导数聚合值;
接收所述数据方发送的加密导数聚合值,并根据所述加密导数聚合值进一步更新所述联邦模型的参数。
2.根据权利要求1所述的方法,其特征在于,所述对所述样本的一阶导数和二阶导数进行联合加密,以得到所述样本对应的加密导数,包括:
对所述样本的所述一阶导数和所述二阶导数分别进行编码;
将编码后的所述一阶导数和所述二阶导数进行拼接,得到所述样本对应的拼接导数;
对所述样本对应的拼接导数进行加密,以得到所述样本对应的加密导数。
3.根据权利要求2所述的方法,其特征在于,所述对所述样本的所述一阶导数和所述二阶导数分别进行编码,包括:
获取预设编码策略,其中,所述预设编码策略包括预设符号位、预设编码位数、预设编码方式;
从所述预设符号位中获取所述一阶导数和所述二阶导数的目标符号位;
基于所述目标符号位、所述预设编码位数,按照所述预设编码方式对所述一阶导数和所述二阶导数分别进行编码。
4.根据权利要求1所述的方法,其特征在于,所述对所述样本的一阶导数和二阶导数进行联合加密之前,还包括:
对所述导数进行梯度剪裁。
5.根据权利要求4所述的方法,其特征在于,所述对所述导数进行梯度剪裁,包括:
如果所述导数大于预设梯度范围的上限值,则将所述导数转换为所述上限值;或者,
如果所述导数小于所述预设梯度范围的下限值,则将所述导数转换为所述下限值。
6.根据权利要求2所述的方法,其特征在于,所述将编码后的所述一阶导数和所述二阶导数进行拼接,得到所述样本对应的拼接导数,包括:
将编码后的所述一阶导数和所述二阶导数进行拼接,得到所述样本对应的候选拼接导数;
在所述样本对应的候选拼接导数的预设位置添加预设标识位,生成所述样本对应的拼接导数。
7.根据权利要求6所述的方法,其特征在于,所述预设位置包括所述候选拼接导数的前端位置、编码后的所述一阶导数和所述二阶导数的拼接位置、所述候选拼接导数的尾端位置中的至少一种。
8.根据权利要求2所述的方法,其特征在于,所述根据所述加密导数聚合值进一步更新所述联邦模型的参数,包括:
将所述加密导数聚合值进行解密,并将解密后的加密导数聚合值进行解码,以获取对应的导数聚合值;
基于所述导数聚合值进一步更新所述联邦模型的参数。
9.根据权利要求1-8任一项所述的方法,其特征在于,所述联邦模型为联邦安全提升树模型。
10.一种联邦模型的训练方法,其特征在于,应用于数据方,所述方法包括:
基于样本特征信息,协同业务方进行联邦模型的训练;
接收所述业务方发送的所述样本对应的加密导数;
根据多个样本对应的加密导数,生成所述多个样本对应的加密导数聚合值;
将所述加密导数聚合值发送至所述业务方,其中,所述加密导数聚合值用于更新所述联邦模型的参数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于京东科技控股股份有限公司,未经京东科技控股股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110839499.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种竹木粉尘高效处理设备
- 下一篇:一种基于虚拟现实技术的医学教学系统及方法