[发明专利]基于联邦学习的客户端贡献计算方法和装置在审
申请号: | 202110387863.9 | 申请日: | 2021-04-12 |
公开(公告)号: | CN112926897A | 公开(公告)日: | 2021-06-08 |
发明(设计)人: | 李泽远;王健宗 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06Q10/06 | 分类号: | G06Q10/06;G06N20/20 |
代理公司: | 深圳中一联合知识产权代理有限公司 44414 | 代理人: | 姚泽鑫 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 联邦 学习 客户端 贡献 计算方法 装置 | ||
本申请适用于区块链、激励机制技术领域,提供一种基于联邦学习的客户端贡献计算方法和装置,方法包括:获取联邦学习模型训练过程中若干客户端执行模型训练后回传的迭代模型,迭代模型为客户端使用本地数据进行一轮模型训练后获得的模型;根据若干客户端执行模型训练后回传的迭代模型,分别计算出各客户端当前训练轮次对应的贡献值并记录于训练记录表中,训练记录表中包含有联邦学习模型训练过程中各客户端每一训练轮次对应的贡献值;从训练记录表中获取所有属于目标客户端的贡献值并进行求和处理,以生成目标客户端在此次联邦学习模型训练过程中的总贡献值。通过上述方法可以减少计算开销和通信开销。
技术领域
本申请涉及区块链、激励机制技术领域,尤其涉及一种基于联邦学习的客户端贡献计算方法和装置,还涉及用于执行该基于联邦学习的客户端贡献计算方法的电子设备及存储介质。
背景技术
联邦学习是一种全新的分布式人工智能网络架构体系,是指通过联合多个不同的参与者进行机器学习的方法,主要用于解决当节点之间原始数据不可共享时,如何在保证安全性的条件下高性能地利用各节点独立的数据训练出高性能人工智能模型的问题,具有广阔的应用前景。然而,在利用联邦学习架构进行模型训练时,模型的训练精度与训练数据量之间的关系为非线性的,需要考量模型的复杂性和数据质量,难以预测,因而使得各参与者的贡献难以准确地评估。而且,由于每个参与者所使用的训练数据是由参与者自身根据其本地环境和使用模式收集的,即数据时不平衡的和非独立同分布的,不同的参与者之间,本地数据集的大小和分布存在较大的差异。现有的联邦学习方法通常采用Shapley值(SV)来公平地评估各参与者的贡献,发明人发现,采用该方法计算各参与者的贡献时,尤其在使用深层神经网络,以及参与用户增多的时候,需要较大的计算开销和通信开销,资源耗费大,耗时长。
发明内容
有鉴于此,本申请实施例提供了一种基于联邦学习的客户端贡献计算方法和装置,以及用于执行该基于联邦学习的客户端贡献计算方法的电子设备及存储介质,可以有效节省计算开销和通信开销。
本申请实施例的第一方面提供了一种基于联邦学习的客户端贡献计算方法,包括:
获取联邦学习模型训练过程中若干客户端执行模型训练后回传的迭代模型,所述迭代模型为客户端使用本地数据进行一轮模型训练后获得的模型;
根据所述若干客户端执行模型训练后回传的迭代模型,分别计算出各客户端当前训练轮次对应的贡献值并记录于训练记录表中,所述训练记录表中包含有联邦学习模型训练过程中各客户端每一训练轮次对应的贡献值;
从所述训练记录表中提取所有属于目标客户端的贡献值并进行求和处理,以生成所述目标客户端在此次联邦学习模型训练过程中的总贡献值。
结合第一方面,在第一方面的第一种可能实现方式中,根据所述若干客户端执行模型训练后回传的迭代模型,分别计算出各客户端当前训练轮次对应的贡献值的步骤,包括:
将所述若干客户端执行模型训练后回传的迭代模型聚合更新到联邦学习模型中获得第一全局模型,计算出所述第一全局模型的性能分值;
通过排除目标客户端的迭代模型,将其余各客户端的迭代模型聚合更新到联邦学习模型中获得第二全局模型,计算出所述第二全局模型的性能分值;
将所述第一全局模型的性能分值与所述第二全局模型的性能分值进行比较,获得所述客户端当前训练轮次对应的贡献值,所述目标客户端为所述若干客户端中的任一客户端。
结合第一方面的第一种可能实现方式,在第一方面的第二种可能实现方式中,将所述第一全局模型的性能分值与所述第二全局模型的性能分值进行比较,获得所述客户端当前训练轮次对应的贡献值的步骤中,客户端当前训练轮次对应的贡献值由以下关系式进行推算获得:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110387863.9/2.html,转载请声明来源钻瓜专利网。
- 同类专利
- 专利分类
G06Q 专门适用于行政、商业、金融、管理、监督或预测目的的数据处理系统或方法;其他类目不包含的专门适用于行政、商业、金融、管理、监督或预测目的的处理系统或方法
G06Q10-00 行政;管理
G06Q10-02 .预定,例如用于门票、服务或事件的
G06Q10-04 .预测或优化,例如线性规划、“旅行商问题”或“下料问题”
G06Q10-06 .资源、工作流、人员或项目管理,例如组织、规划、调度或分配时间、人员或机器资源;企业规划;组织模型
G06Q10-08 .物流,例如仓储、装货、配送或运输;存货或库存管理,例如订货、采购或平衡订单
G06Q10-10 .办公自动化,例如电子邮件或群件的计算机辅助管理