[发明专利]联邦模型退化处理方法、装置、联邦训练系统及存储介质有效
申请号: | 201910563383.6 | 申请日: | 2019-06-26 |
公开(公告)号: | CN110334544B | 公开(公告)日: | 2023-07-25 |
发明(设计)人: | 黄安埠 | 申请(专利权)人: | 深圳前海微众银行股份有限公司 |
主分类号: | G06F21/62 | 分类号: | G06F21/62;G06F18/214 |
代理公司: | 深圳市世纪恒程知识产权代理事务所 44287 | 代理人: | 胡海国 |
地址: | 518000 广东省深圳市前海深港合作区前*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 联邦 模型 退化 处理 方法 装置 训练 系统 存储 介质 | ||
1.一种联邦模型退化处理方法,其特征在于,所述联邦模型退化处理方法应用于联邦训练系统,所述联邦模型退化处理方法包括:
获取所述联邦训练系统的协作端聚合后得到的第一全局模型;
通过预设测试数据对所述第一全局模型进行测试,得到所述第一全局模型的模型测试结果;
根据所述模型测试结果检测所述第一全局模型是否出现退化,若检测到所述第一全局模型出现退化,则获取第二轮联邦迭代训练的第二全局模型;
将所述第二全局模型发送至第二轮联邦迭代训练的目标客户端,以供所述目标客户端根据所述第二全局模型进行第二轮的联邦迭代训练;
其中,所述根据所述模型测试结果检测所述第一全局模型是否出现退化的步骤包括:
检测所述模型测试结果是否小于第一预设阈值;
若检测到所述模型测试结果小于第一预设阈值,则确定所述第一全局模型出现退化;
所述若检测到所述第一全局模型出现退化,则获取第二轮联邦迭代训练的第二全局模型的步骤包括:
若检测到所述第一全局模型出现退化,则从预存对象存储的历史全局模型中,获取所述模型测试结果最优的全局模型,以作为第二轮联邦迭代训练的第二全局模型。
2.如权利要求1所述的联邦模型退化处理方法,其特征在于,所述若检测到所述第一全局模型出现退化,则从预存对象存储的历史全局模型中,获取所述模型测试结果最优的全局模型,以作为第二轮联邦迭代训练的第二全局模型的步骤包括:
若检测到所述第一全局模型出现退化,则从预存对象的历史模型测试结果中,获取最优的目标模型测试结果;
从预存对象的历史全局模型中,获取与所述目标模型测试结果存在映射关系的历史全局模型,以作为第二全局模型。
3.如权利要求1所述的联邦模型退化处理方法,其特征在于,检测所述模型测试结果是否小于第一预设阈值的步骤之后还包括:
若检测到所述模型测试结果大于或等于第一预设阈值;
则获取所述第一全局模型,以作为第二轮联邦迭代训练的第二全局模型。
4.如权利要求1所述的联邦模型退化处理方法,其特征在于,将所述第二全局模型发送至第二轮联邦迭代训练的目标客户端的步骤包括:
根据所述第二全局模型,确定导致所述第一全局模型退化的退化客户端;
根据所述退化客户端,确定第二轮联邦迭代训练的目标客户端;
将所述第二全局模型发送至所述目标客户端。
5.如权利要求4所述的联邦模型退化处理方法,其特征在于,根据所述第二全局模型,确定导致所述第一全局模型退化的退化客户端的步骤包括:
将所述第二全局模型发送至参与本轮联邦迭代训练的各个初始客户端;
获取所述初始客户端基于所述第二全局模型反馈的客户端测试结果;
获取所述客户端测试结果小于第二预设阈值的初始客户端,以作为所述退化客户端。
6.如权利要求4所述的联邦模型退化处理方法,其特征在于,根据所述退化客户端,确定第二轮联邦迭代训练的目标客户端的步骤包括:
获取参与本轮联邦迭代训练的各个初始客户端;
从所述初始客户端中删除所述退化客户端,得到剩余客户端;
将所述剩余客户端作为第二轮联邦迭代训练的目标客户端。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳前海微众银行股份有限公司,未经深圳前海微众银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910563383.6/1.html,转载请声明来源钻瓜专利网。