[发明专利]纵向联邦学习的学习模式参数更新方法和电子装置在审
申请号: | 202011301700.6 | 申请日: | 2020-11-19 |
公开(公告)号: | CN112328617A | 公开(公告)日: | 2021-02-05 |
发明(设计)人: | 李伟;邱炜伟;蔡亮;汪小益;严杨 | 申请(专利权)人: | 杭州趣链科技有限公司 |
主分类号: | G06F16/23 | 分类号: | G06F16/23;G06F16/27;G06F21/60;G06F21/64;G06N20/00 |
代理公司: | 杭州华进联浙知识产权代理有限公司 33250 | 代理人: | 聂磊 |
地址: | 310051 浙江省杭州市*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 纵向 联邦 学习 模式 参数 更新 方法 电子 装置 | ||
本申请涉及一种纵向联邦学习的学习模式参数更新方法和电子装置,其中,该纵向联邦学习的学习模式参数更新方法包括:发起方在区块链中发布学习任务,区块链中的节点对学习任务完成共识,发起方获取与学习任务对应的参与方,并将参与方的信息上链,区块链中的节点对学习任务的任务信息和参与方的信息完成共识,发起方和参与方确定学习模式,发起方将学习模式上链,在区块链中的节点对学习模式完成共识之后,区块链向发起方和参与方返回训练开始信号。通过本申请,解决了基于区块链实现的学习模式参数更新的方法,对于纵向联邦学习中的复杂场景适应性较低的问题,为纵向联邦学习提供了一种实现方案,提高纵向联邦学习的场景适应性。
技术领域
本申请涉及联邦学习技术领域,特别是涉及纵向联邦学习的学习模式参数更新方法和电子装置。
背景技术
随着人工智能技术的发展,人们为解决数据孤岛的问题,提出了“联邦学习”的概念,联邦学习中的双方在不用给出己方数据的情况下,也可进行模型训练得到模型参数,并且可以避免数据隐私泄露的问题。
其中,纵向联邦学习是在成员方的数据特征重叠较小,而用户重叠较多的情况下,将成员方中用户相同而用户数据特征不同的部分用户以及用户数据取出,进行机器学习模型框架的联合训练。例如,有属于同一个地区的两个成员方A和B,其中成员方A是一家银行,成员方B是一个电商平台。成员方A和B在同一地区拥有较多相同的用户,但是A与B的业务不同,记录的用户数据特征是不同的,特别地,A和B记录的用户数据特征可能是互补的。在这样的场景下,可以使用纵向联邦学习来帮助A和B构建联合机器学习预测模型,帮助A和B向他们的客户提供更好的服务。
在相关技术中,可以基于区块链平台实现联邦学习,以区块链作为公信协调第三方,为联邦学习中的多个成员方实现数据交换、处理与传递,但是相关技术中的联邦学习框架仍限制于横向联邦学习,仅能用于数据特征重叠较多、用户重叠较少的场景,不能对于纵向联邦学习中场景较为复杂的情况进行处理。
目前针对相关技术中基于区块链实现的学习模式参数更新的方法仅适用于横向联邦学习,对于纵向联邦学习中的复杂场景适应性较低的问题,尚未提出有效的解决方案。
发明内容
本申请实施例提供了一种纵向联邦学习的学习模式参数更新方法、电子装置和存储介质,以至少解决相关技术中基于区块链实现的联邦学习方案对于纵向联邦学习中的复杂场景适应性较低的问题。
第一方面,本申请实施例提供了一种纵向联邦学习的学习模式参数更新方法,包括:
发起方在区块链中发布学习任务,所述区块链中的节点对所述学习任务完成共识;
所述发起方获取与所述学习任务对应的参与方,并将所述参与方的信息上链,所述区块链中的节点对所述参与方的信息完成共识;
所述发起方和所述参与方确定学习模式,并由所述发起方将所述学习模式上链;
在所述区块链中的节点对所述学习模式完成共识之后,所述区块链向所述发起方和所述参与方返回训练开始信号。
在其中一些实施例中,在所述发起方具有与所述学习任务对应的总模型,且仅需要所述参与方的数据特征的情况下,所述学习模式包括:
所述发起方将所述学习任务拆分得到多个并行的分布式学习任务,并根据所述参与方的数据特征将所述分布式学习任务分配至不同的所述参与方执行。
在其中一些实施例中,在所述发起方具有与所述学习任务对应的总模型,且需要所述参与方的子模型和数据的情况下,所述学习模式包括:
每个成员方的本地训练结果作为隐藏信息,其中,所述成员方包括所述发起方和所述参与方;
每个所述成员方将所有的所述隐藏信息再次进行机器学习训练,得到所述总模型的参数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州趣链科技有限公司,未经杭州趣链科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011301700.6/2.html,转载请声明来源钻瓜专利网。