[发明专利]基于联邦学习的模型训练方法及装置、设备、存储介质有效
申请号: | 202110816401.4 | 申请日: | 2021-07-19 |
公开(公告)号: | CN113537518B | 公开(公告)日: | 2022-09-30 |
发明(设计)人: | 张伟哲;卢仁浩;张剑楠;方滨兴 | 申请(专利权)人: | 哈尔滨工业大学;鹏城实验室 |
主分类号: | G06N20/20 | 分类号: | G06N20/20;G06Q30/08 |
代理公司: | 深圳市世纪恒程知识产权代理事务所 44287 | 代理人: | 魏润洁 |
地址: | 150000 黑龙*** | 国省代码: | 黑龙江;23 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 联邦 学习 模型 训练 方法 装置 设备 存储 介质 | ||
1.一种基于联邦学习的模型训练方法,其特征在于,应用于服务端,所述基于联邦学习的模型训练方法包括以下步骤:
发送广播训练请求至每一客户端设备,以使得所述每一客户端设备根据所述广播训练请求和竞价策略确定各自客户端设备的出价;其中,所述出价由所述客户端设备根据本地资源,获得服务成本和资源成本,并对所述服务成本和所述资源成本进行求和,获得总成本根据纳什均衡对总成本进行最优解求解得到,服务成本由所述客户端设备根据本地样本数据集中的样本数量和历史参与训练的次数获得,所述资源成本由所述客户端设备根据剩余电量和本次训练预计消耗电量获得;多个客户端设备根据客户端设备的本地样本数据集的相似性进行聚类分组为至少两个设备组;每一设备组中包括至少一个客户端设备;
接收所述每一客户端设备发送的客户端设备的出价;
根据所述每一客户端设备的出价,选取预设数量的目标客户端设备;
发送所述目标客户端设备的标识和第一全局模型至所述每一客户端设备,以使得和所述目标客户端设备的标识匹配的客户端设备,根据其本地样本数据集对所述第一全局模型进行训练;
其中,根据所述每一客户端设备的出价,选取预设数量的目标客户端设备,包括:
根据所述每一客户端设备的出价,从至少一个设备组内分别选取第二预设数量的目标客户端设备,以得到所述预设数量的目标客户端设备,所述第二预设数量根据所述预设数量与所述设备组的组数得到。
2.如权利要求1所述的基于联邦学习的模型训练方法,其特征在于,所述发送广播训练请求至每一客户端设备的步骤之前,所述基于联邦学习的模型训练方法还包括:
初始化初始全局模型、样本窗口大小参数和聚类分组数量;
发送初始全局模型和样本窗口大小参数至每一客户端设备,以使得所述每一客户端设备从其本地样本数据集中,多次随机选取和样本窗口大小参数相同的样本,对所述初始全局模型进行训练,获得多个梯度值参数,并对所述多个梯度值参数求取平均,获得平均梯度值参数;
接收所述每一客户端设备发送的客户端设备的平均梯度值参数;
根据所述每一客户端设备的平均梯度值参数,将所有客户端设备划分为和所述聚类分组数量相同的设备组;其中,每一设备组中包括至少一个客户端设备。
3.如权利要求1或2所述的基于联邦学习的模型训练方法,其特征在于,所述发送所述目标客户端设备的标识和第一全局模型至所述每一客户端设备的步骤之后,所述基于联邦学习的模型训练方法还包括:
接收每一目标客户端设备发送的目标客户端设备的第二全局模型;其中,所述第二全局模型为目标客户端设备根据其本地样本数据集对所述第一全局模型进行训练获得;
对所述每一目标客户端设备的第二全局模型进行聚合,获得聚合后的第三全局模型;
若所述第三全局模型的准确率大于或等于预设阈值,则保存所述第三全局模型;
若所述第三全局模型的准确率小于预设阈值,则返回执行发送广播训练请求至每一客户端设备的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于哈尔滨工业大学;鹏城实验室,未经哈尔滨工业大学;鹏城实验室许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110816401.4/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种电源适配器模组
- 下一篇:一种便于拼接安装的种羊繁殖用栅栏