[发明专利]基于联邦蒸馏的联邦学习模型的训练方法、系统和介质在审
申请号: | 202111321688.X | 申请日: | 2021-11-09 |
公开(公告)号: | CN114154643A | 公开(公告)日: | 2022-03-08 |
发明(设计)人: | 朱佳;马晓东;黄昌勤 | 申请(专利权)人: | 浙江师范大学 |
主分类号: | G06N20/00 | 分类号: | G06N20/00 |
代理公司: | 广州嘉权专利商标事务所有限公司 44205 | 代理人: | 黎扬鹏 |
地址: | 321004 *** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于联邦蒸馏的联邦学习模型的训练方法、系统和介质,可应用于模型处理技术领域。本发明方法包括:客户端采用联邦学习算法和本地私有数据集训练并更新本地模型,采用公共数据集和更新后的本地模型预测局部归一化层的第一输出向量,并向服务器上传第一输出向量对应的局部平均输出向量;服务器对所有局部平均输出向量进行全局共识操作并确定全局平均输出向量,向所有客户端下发所述全局平均输出向量;客户端在公共数据集上,采用全局平均输出向量和更新后的本地模型进行知识蒸馏,并在本地私有数据集上训练回调本地模型。本发明能使通信成本只取决于模型输出,不会随模型大小倍数增加,从而有效提高通讯的稳定性和减少延迟。 | ||
搜索关键词: | 基于 联邦 蒸馏 学习 模型 训练 方法 系统 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江师范大学,未经浙江师范大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202111321688.X/,转载请声明来源钻瓜专利网。
- 上一篇:一种基于药用氯化钠生产的余热回收装置
- 下一篇:一种无菌耦合剂智能灌装设备