[发明专利]联邦模型训练方法、系统、设备及计算机可读存储介质在审
申请号: | 201910121269.8 | 申请日: | 2019-02-18 |
公开(公告)号: | CN109871702A | 公开(公告)日: | 2019-06-11 |
发明(设计)人: | 黄安埠;刘洋;陈天健;杨强 | 申请(专利权)人: | 深圳前海微众银行股份有限公司 |
主分类号: | G06F21/60 | 分类号: | G06F21/60;G06K9/62 |
代理公司: | 深圳市世纪恒程知识产权代理事务所 44287 | 代理人: | 胡海国;魏兰 |
地址: | 518052 广东省深圳市前海深港合作区前*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 全局模型 模型参数 联邦模型 客户终端 权重系数 计算机可读存储介质 协作终端 参数加密 收敛状态 最终结果 检测 预设 聚合 收敛 发送 预测 更新 | ||
本发明公开了一种联邦模型训练方法、系统、设备及计算机可读存储介质,该方法包括步骤:当协作终端接收到多个客户终端分别发送的模型参数后,根据预设的获取规则,获取每个模型参数对应的权重系数;根据多个模型参数及每个模型参数对应的权重系数,聚合得到第二全局模型;检测第二全局模型是否收敛;若检测到第二全局模型处于收敛状态,则将第二全局模型确定为联邦模型训练的最终结果,并下发参数加密的第二全局模型至多个客户终端。本发明实现了协作终端根据每个客户终端的模型参数及其权重系数来更新得到新的全局模型,提升了联邦模型的预测效果。
技术领域
本发明涉及机器学习技术领域,尤其涉及一种联邦模型训练方法、系统、设备及计算机可读存储介质。
背景技术
联邦模型是利用技术算法加密建造的机器学习模型,联邦学习系统中的多个联邦客户端在模型训练时不用给出己方数据,而是根据协作端下发的参数加密的全局模型和客户端本地的数据集来训练本地模型,并返回本地模型参数供协作端聚合更新全局模型,更新后的全局模型重新下发到客户端,循环往复,直到收敛。联邦学习通过加密机制下参数交换的方式保护客户端数据隐私,客户端数据和客户端的本地模型本身不会进行传输,本地数据不会被反猜,联邦模型在较高程度保持数据完整性的同时,保障了数据隐私。
目前,协作端根据多个客户端返回的本地模型参数聚合更新全局模型时,只是对多个客户端的模型参数做简单平均,将平均后的模型参数作为新的全局模型参数下发至客户端继续迭代训练,然而,实际训练中,每个客户端由于其训练数据的不同,训练出的本地模型的预测性能也是参差不齐的,现有的简单平均的聚合方法会导致全局模型的效果不理想。
发明内容
本发明的主要目的在于提供一种联邦模型训练方法、系统、设备及计算机可读存储介质,旨在解决现有的协作端对多个联邦客户端的模型参数采用简单平均的聚合方式来更新全局模型而导致的联邦模型效果不理想的技术问题。
为实现上述目的,本发明提供一种联邦模型训练方法,所述联邦模型训练方法包括步骤:
当协作终端接收到多个客户终端分别发送的模型参数后,根据预设的获取规则,获取每个模型参数对应的权重系数;其中,所述模型参数是客户终端根据协作终端下发的参数加密的第一全局模型进行联邦模型训练得到的,所述权重系数是基于所述模型参数对应的预测模型的预测准确性确定的;
根据多个模型参数及每个模型参数对应的权重系数,聚合得到第二全局模型;
检测所述第二全局模型是否收敛;
若检测到所述第二全局模型处于收敛状态,则将所述第二全局模型确定为联邦模型训练的最终结果,并下发参数加密的第二全局模型至所述多个客户终端。
可选地,所述当协作终端接收到多个客户终端分别发送的模型参数后,根据预设的获取规则,获取每个模型参数对应的权重系数的步骤包括:
当协作终端接收到多个客户终端分别发送的模型参数后,根据预设的测试样本集,测试并得到每个模型参数对应的预测模型的预测误差率;
基于每个预测模型的所述预测误差率及预设的计算公式,分别计算得到每个模型参数对应的权重系数。
可选地,所述当协作终端接收到多个客户终端分别发送的模型参数后,根据预设的测试样本集,测试并得到每个模型参数对应的预测模型的预测误差率的步骤包括:
当协作终端接收到多个客户终端分别发送的模型参数后,将预设的测试样本集中的多个测试样本输入至所述模型参数对应的预测模型中进行预测,得到所述预测模型针对每个所述测试样本的预测值;
根据多个所述预测值,获取所述测试样本集中预测结果错误的测试样本的数量;
将所述预测结果错误的测试样本的数量与所述测试样本集中全部测试样本数量的比值确定为所述预预测模型的预测误差率。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳前海微众银行股份有限公司,未经深圳前海微众银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910121269.8/2.html,转载请声明来源钻瓜专利网。