[发明专利]一种利用单比特压缩感知技术的模型训练方法和装置在审
申请号: | 202110122202.3 | 申请日: | 2021-01-27 |
公开(公告)号: | CN112906046A | 公开(公告)日: | 2021-06-04 |
发明(设计)人: | 李刚;李成蹊;王学谦;刘瑜 | 申请(专利权)人: | 清华大学;中国人民解放军海军航空大学 |
主分类号: | G06F21/62 | 分类号: | G06F21/62;G06N20/20;H03M7/30 |
代理公司: | 北京润泽恒知识产权代理有限公司 11319 | 代理人: | 苟冬梅 |
地址: | 100084 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请提供了一种利用单比特压缩感知技术的模型训练方法和装置,涉及分布式学习技术领域。具体在发送模型更新量之前,利用压缩感知技术对模型更新量进行压缩,并将压缩结果进行单比特量化,将单比特量化的结果发送到中心服务器,中心服务器采用投票的方式融合不同设备对模型更新量的压缩以及单比特量化结果,得到单比特形式的融合结果。压缩感知技术和单比特量化减小了模型更新量的数据量,即使被训练的神经网络模型包含大量权重参数(比如卷积神经网络等),经过压缩后的单比特量化结果相较于模型更新量的数据量大幅度减小,实现了对模型更新量的有效压缩,缓解了物联网的通信负担。 | ||
搜索关键词: | 一种 利用 比特 压缩 感知 技术 模型 训练 方法 装置 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于清华大学;中国人民解放军海军航空大学,未经清华大学;中国人民解放军海军航空大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202110122202.3/,转载请声明来源钻瓜专利网。