[发明专利]联邦学习模型训练方法、装置、终端设备及存储介质在审
申请号: | 202010996298.1 | 申请日: | 2020-09-21 |
公开(公告)号: | CN112132277A | 公开(公告)日: | 2020-12-25 |
发明(设计)人: | 孔令炜;王健宗;黄章成 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06F30/27;G06N20/20;G06K9/62 |
代理公司: | 深圳中一联合知识产权代理有限公司 44414 | 代理人: | 肖遥 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 联邦 学习 模型 训练 方法 装置 终端设备 存储 介质 | ||
本申请适用于人工智能技术领域,提供了一种联邦学习模型训练方法、装置、终端设备及存储介质,其中,通过对模型更新参数进行参数检测,以分别判断不同参与设备根据初始模型参数进行本地模型训练后得到的模型更新参数是否是虚假参数,并通过将参数检测合格的模型更新参数存储至区块链,防止了虚假参数在区块链中的存储,进而防止了参与设备对联邦学习模型的恶意攻击,提高了联邦学习模型训练的准确性和安全性,通过将联邦学习模型的初始模型参数和参数检测合格的模型更新参数存储至区块链,有效的防止了初始模型参数和参数检测合格的模型更新参数的数据篡改,进一步提高了联邦学习模型训练的准确性。
技术领域
本申请涉及人工智能技术领域,尤其涉及一种联邦学习模型训练方法、装置、终端设备及存储介质。
背景技术
随着人工智能的发展,人们为解决数据孤岛的问题,提出了“联邦学习”的概念,使得处于联邦状态下的参与设备在不用给出己方数据的情况下,也可协作进行联邦学习模型的训练,并且可以避免数据隐私泄露的问题。
现有的联邦学习模型训练过程中,有的参与设备可能会恶意攻击联邦学习模型,例如,用虚假的参数参与到联邦学习模型的训练过程中,从而导致联邦学习模型不收敛无法完成模型训练任务,或最终输出的联邦学习模型准确性低下,进而降低了联邦学习模型的训练效率。
发明内容
有鉴于此,本申请实施例提供了一种联邦学习模型训练方法、装置、终端设备及存储介质,以解决现有技术的联邦学习模型训练过程中,由于参与设备可能会根据虚假的参数恶意攻击联邦学习模型,所导致的联邦学习模型训练效率低下的问题。
本申请实施例的第一方面提供了一种联邦学习模型训练方法,包括:
将联邦学习模型的初始模型参数存储至区块链,并分别指示不同参与设备根据所述区块链中的所述初始模型参数进行本地模型训练,得到模型更新参数;
分别获取不同所述参与设备中的所述模型更新参数,并对所述模型更新参数进行参数检测,所述参数检测用于检测所述模型更新参数是否是虚假参数;
若所述模型更新参数的参数检测合格,则将所述模型更新参数存储至所述区块链;
根据所述区块链中的所述模型更新参数对所述联邦学习模型进行模型训练,直至模型训练后的所述联邦学习模型收敛。
进一步地,所述根据所述区块链中的所述模型更新参数对所述联邦学习模型进行模型训练,包括:
获取所述区块链中的所述模型更新参数,并对获取到的所述模型更新参数进行参数聚合,得到模型聚合参数,所述参数聚合用于将所述区块链中的不同所述模型更新参数聚合为一个模型参数;
将所述模型聚合参数存储至所述区块链中,并根据所述区块链中的所述模型聚合参数对所述联邦学习模型中的模型参数进行参数更新;
若所述联邦学习模型中的模型参数更新后与更新前之间的模型参数差值小于差值阈值,则判定参数更新后的所述联邦学习模型收敛。
进一步地,所述根据所述区块链中的所述模型更新参数对所述联邦学习模型进行模型训练,还包括:
若所述联邦学习模型中的模型参数更新后与更新前之间的模型参数差值大于或等于所述差值阈值,则判定参数更新后的所述联邦学习模型未收敛;
根据所述模型聚合参数对所述区块链中的所述初始模型参数进行参数更新,并删除所述区块链中的所述模型更新参数。
进一步地,所述对获取到的所述模型更新参数进行参数聚合所采用的计算公式为:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010996298.1/2.html,转载请声明来源钻瓜专利网。