[发明专利]联邦学习的方法、装置和芯片在审
申请号: | 202010593841.3 | 申请日: | 2020-06-23 |
公开(公告)号: | CN111898764A | 公开(公告)日: | 2020-11-06 |
发明(设计)人: | 邵云峰;郭凯洋;文森特-莫恩斯;汪军;杨春春 | 申请(专利权)人: | 华为技术有限公司 |
主分类号: | G06N20/00 | 分类号: | G06N20/00 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 联邦 学习 方法 装置 芯片 | ||
1.一种联邦学习的方法,其特征在于,包括:
第一节点从第二节点接收联邦模型的参数的先验分布,其中所述联邦模型为参数服从分布的机器学习模型;
所述第一节点根据所述联邦模型的参数的先验分布和所述第一节点的本地训练数据,训练得到所述第一节点的本地模型的参数的后验分布。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
所述第一节点根据所述本地模型的参数的后验分布,确定所述本地模型的不确定度;
当所述本地模型的不确定度满足第一预设条件时,所述第一节点向所述第二节点发送所述本地模型的参数的后验分布。
3.根据权利要求2所述的方法,其特征在于,所述本地模型的不确定度是基于以下信息中的至少一种度量的:所述本地模型的参数的后验分布的方差,所述本地模型的参数的后验分布的收敛速度,或者所述本地模型的参数的后验分布的推断准确率。
4.根据权利要求1所述的方法,其特征在于,所述方法还包括:
所述第一节点根据所述本地模型的第一参数的后验分布,确定所述第一参数的不确定度,其中,所述本地模型包括至少一个参数,所述第一参数为所述至少一个参数中的任意一个;
当所述第一参数的不确定度满足第二预设条件时,所述第一节点向所述第二节点发送所述第一参数的后验分布。
5.根据权利要求4所述的方法,其特征在于,所述第一参数的不确定度是基于所述第一参数的后验分布的方差度量的。
6.根据权利要求1所述的方法,其特征在于,所述方法还包括:
所述第一节点根据所述本地模型的参数的后验分布,确定所述本地模型的不确定度;
当所述本地模型的不确定度满足第一预设条件时,所述第一节点根据所述本地模型的第一参数的后验分布,确定所述第一参数的不确定度,其中,所述本地模型包括至少一个参数,所述第一参数为所述至少一个参数中的任意一个;
当所述第一参数的不确定度满足第二预设条件时,所述第一节点向所述第二节点发送所述第一参数的后验分布。
7.根据权利要求1-6中任一项所述的方法,其特征在于,所述联邦模型的参数的先验分布包括多个局部先验分布,所述多个局部先验分布一一对应多个贝叶斯模型,
所述第一节点根据所述联邦模型的参数的先验分布和所述第一节点的本地训练数据,训练得到所述第一节点的本地模型的参数的后验分布,包括:
所述第一节点根据所述多个局部先验分布与所述本地训练数据的匹配度,确定所述第一节点的本地模型的参数的先验分布;
所述第一节点根据所述本地模型的参数的先验分布和所述本地训练数据,训练得到所述本地模型的参数的后验分布。
8.根据权利要求7所述的方法,其特征在于,所述联邦学习包括多轮迭代,所述本地模型的参数的后验分布为经过本轮迭代得到的本地模型的参数的后验分布,
所述第一节点根据所述多个局部先验分布与所述本地训练数据的匹配度,确定所述第一节点的本地模型的参数的先验分布,包括:
所述第一节点根据所述多个局部先验分布与历史后验分布之间的差异,确定所述第一节点的本地模型的参数的先验分布,其中所述历史后验分布为所述第一节点在所述本轮迭代之前得到的本地模型的参数的后验分布。
9.根据权利要求8所述的方法,其特征在于,所述本地模型的参数的先验分布为所述多个局部先验分布中的与所述历史后验分布差异最小的先验分布;或者,所述本地模型的参数的先验分布为所述多个局部先验分布的加权和,其中所述多个局部先验分布在所述加权和中分别所占的权重由所述多个局部先验分布与所述历史后验分布之间的差异确定。
10.根据权利要求1所述的方法,其特征在于,所述方法还包括:
所述第一节点向所述第二节点发送所述本地模型的参数的后验分布。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010593841.3/1.html,转载请声明来源钻瓜专利网。