[发明专利]联邦学习网络下的模型训练方法及其相关设备有效
申请号: | 202010622524.X | 申请日: | 2020-06-30 |
公开(公告)号: | CN111814985B | 公开(公告)日: | 2023-08-29 |
发明(设计)人: | 何安珣;王健宗;肖京 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06N20/00 | 分类号: | G06N20/00;G06F21/62 |
代理公司: | 深圳市世联合知识产权代理有限公司 44385 | 代理人: | 汪琳琳 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 联邦 学习 网络 模型 训练 方法 及其 相关 设备 | ||
1.一种联邦学习网络下的模型训练方法,其特征在于,包括下述步骤:
建立联邦学习网络,所述联邦学习网络包括中央客户端和多个节点,控制每个所述节点接收中央客户端下发的初始化模型,作为本地模型,每个节点分别对本地模型进行多轮更新训练;
直至更新训练后各节点对应的本地模型收敛,各节点分别获得结果模型;
控制所述节点接收用户数据,并输入到所述节点对应的所述结果模型中,获得所述结果模型输出的推荐信息;所述用户数据包括用户购买力、用户个人喜好和产品特征;
其中,在每轮更新训练中,所述更新训练的过程包括:
控制每个所述节点使用节点对应的本地数据对所述本地模型进行训练,获得每个节点的梯度信息,并将所述梯度信息发送至所述中央客户端;
控制所述中央客户端接收并根据所述梯度信息生成全局信息,将所述全局信息发送至各节点;
控制当前节点接收并根据所述全局信息获得其他节点的梯度信息,分别使用每个节点的梯度信息对当前节点的本地模型进行测试,获得准确率,根据所述准确率调整接收到的全局信息,获得调整后的全局信息,并使用所述调整后的全局信息更新当前节点的本地模型;以及
直至完成当前轮全部节点更新训练,判断各节点对应的本地模型是否收敛。
2.根据权利要求1所述的联邦学习网络下的模型训练方法,其特征在于,根据所述准确率调整接收到的全局信息,获得调整后的全局信息的步骤包括:
根据所述准确率获得每个节点的梯度信息在全局信息中的权重;
将所述权重和梯度信息进行加权求和,获得调整后的全局信息。
3.根据权利要求2所述的联邦学习网络下的模型训练方法,其特征在于,根据所述准确率获得每个节点的梯度信息在全局信息中的权重的步骤包括:
根据所述准确率计算准确率中间值,其中,所述准确率中间值为各准确率的中位数;
通过如下公式计算各节点的梯度信息的权重:
;
其中,为各节点的梯度信息的权重,为上一轮的各节点梯度信息的权重,为学习率,为各节点的准确率,为准确率中间值。
4.根据权利要求1所述的联邦学习网络下的模型训练方法,其特征在于,所述本地数据由训练数据和验证集数据组成,所述分别使用每个节点的梯度信息对当前节点的本地模型进行测试,获得准确率的步骤包括:
分别使用每个节点的梯度信息和验证集对当前节点的本地模型进行测试,获得准确率。
5.根据权利要求1所述的联邦学习网络下的模型训练方法,其特征在于,所述本地数据由训练数据和验证集数据组成,所述控制每个所述节点使用节点对应的本地数据对所述本地模型进行训练,获得每个节点的梯度信息的步骤包括:
控制每个所述节点使用训练数据对所述本地模型进行训练,获得每个节点的梯度信息。
6.根据权利要求1至5任意一项所述的联邦学习网络下的模型训练方法,其特征在于,所述将所述梯度信息发送至所述中央客户端的步骤包括:
将所述梯度信息使用所述中央客户端预先传输的公钥进行加密;
将所述加密后的梯度信息发送至所述中央客户端;
所述控制所述中央客户端接收并根据所述梯度信息生成全局信息的步骤包括:
控制所述中央客户端解密所述加密后的梯度信息,获得梯度信息;
根据所述梯度信息生成全局信息。
7.根据权利要求1至5任意一项所述的联邦学习网络下的模型训练方法,其特征在于,所述将所述梯度信息发送至所述中央客户端的步骤包括:
将所述梯度信息使用所述中央客户端预先传输的对称密钥进行加密;
将所述加密后的梯度信息发送至所述中央客户端;
所述控制当前节点接收并根据所述全局信息获得其他节点的梯度信息的步骤包括:
控制当前节点接收所述全局信息;
根据所述全局信息获得加密后的梯度信息;
使用对称密钥解密所述加密后的梯度信息,获得梯度信息。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010622524.X/1.html,转载请声明来源钻瓜专利网。