[发明专利]一种激励驱动的区块链联邦学习方法在审
申请号: | 202110894759.9 | 申请日: | 2021-08-05 |
公开(公告)号: | CN113657608A | 公开(公告)日: | 2021-11-16 |
发明(设计)人: | 寿黎但;陈珂;江大伟;应益龙;董大捷;张哲槟;张俊;马宇航 | 申请(专利权)人: | 浙江大学 |
主分类号: | G06N20/00 | 分类号: | G06N20/00;G06F21/60;G06F16/27;G06F16/182 |
代理公司: | 杭州求是专利事务所有限公司 33200 | 代理人: | 邱启旺 |
地址: | 310058 浙江*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 激励 驱动 区块 联邦 学习方法 | ||
本发明公开了一种激励驱动的区块链联邦学习方法,任务发布节点根据自身需求通过区块链部署一个联邦训练任务智能合约,任务发布后,训练节点以及验证节点访问区块链,向智能合约获取任务状态,根据自身条件选择报名参与训练或者验证过程。报名完成后,训练节点通过文件句柄下载模型文件,然后利用本地数据进行训练,训练完成后将模型上传至分布式文件系统,然后将文件句柄上传至智能合约。验证节点通过智能合约中的本地模型文件句柄下载对应的模型进行聚合和评估,完成后上传评估结果以及聚合模型。待全部验证节点上传结果后,智能合约比对评估结果。本发明增加了联邦学习系统灵活性以及抵抗恶意攻击的能力,能够应对各种不信任环境。
技术领域
本发明涉及人工智能领域的联邦学习在区块链上的实现方法,尤其是涉及了一种通过区块链实现可信训练和激励驱动的联邦学习方法。
背景技术
当前移动设备经常产生大量隐私敏感的分散数据。若想利用分散的数据来更好的学习模型必须恰当地处理这类数据“隐私”和“大量参与”的两个特性。联邦学习作为一种从分散数据中学习的范式,与传统的中心学习不同的是其通过模型参数的交换来代替了暴露原始数据,以此实现隐私保护的目的。但是传统的联邦学习存在过度依赖中心化服务器,没有公平的激励,无法吸引数据拥有方主动参与,无法防范作恶节点等问题。如何构建一个可信的激励方法来激励多方用户的参与联邦学习,打破数据孤岛,促进数据的良性有序的流动,成为了联邦学习落地的一个重要技术之一。
传统的联邦学习假设所有参与方自愿参与到联邦学习中,并贡献本地的数据和算力用于训练全局模型,但在实际落地应用过程中,并非所有节点都会主动参与到联邦学习中,这是由于现有联邦学习方法中普遍不存在系统级的激励机制,目前通常使用全局模型作为参与方的激励,然而该激励不是基于参与节点的贡献计算的,因此参与方并没有足够的动机使用自己全部的数据来参与训练,一旦参与方都消极地提供数据就会使得联邦学习失效,无法达到预期效果;训练节点没有动机主动分担联邦训练负荷,在完成联邦学习后也无法获得激励,这使得现有的联邦学习更流于一种形式上的合作,难于做到真正的分布式协同。
传统的联邦学习过程中甚至可能出现恶意的联邦节点,通过上传虚假的本地模型,妨碍联邦学习任务的完成。一些最新的方法通过任务发布节点对训练节点的行为进行审计或者训练节点相互之间进行审计来低抵御恶意节点的攻击,然而任务发布节点和训练节点作为利益相关方,都无法信任对方可以确保审计过程的公平性,这些审计方法并不适合在联邦学习系统的实际场景中使用。
发明内容
本发明的目的在于针对现有技术的不足,提供了一种激励驱动的区块链联邦学习方法,解决了复杂联邦学习系统中存在大规模自利节点不会主动参与联邦学习的问题,解决了现有联邦系统中大量存在恶意节点会破坏联邦学习过程且现有联邦系统无法对这些恶意行为进行有效审查和抵御的问题。
本发明解决其技术问题采用的技术方案如下:一种激励驱动的区块链联邦学习方法,联邦学习任务参与节点包括任务发布节点、训练节点和验证节点,该方法的步骤如下:
(1)任务发布节点根据需要在区块链发布智能合约,上传满足训练模型和验证模型效果所需文件的文件句柄,并向智能合约转入必要的数字货币作为激励,同时开始招募训练节点和验证节点。
(2)训练节点和验证节点访问区块链,获取处在招募状态的智能合约,结合任务需求和自身条件,向有意向的智能合约报名,申请参与训练过程或验证过程。
(3)待训练节点和验证节点的招募完成后,每个训练节点从智能合约获取任务发布节点提供的全局模型的拓扑结构与参数文件的文件句柄,从可信分布式文件系统中下载具体文件,使用本地数据集完成模型训练,获得本地模型,训练节点将加密后的本地模型文件存入可信分布式文件系统,将对应文件句柄上传至智能合约。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江大学,未经浙江大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110894759.9/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种面向联邦学习的连续学习方法
- 下一篇:一种蒸馏系统