[发明专利]基于非对称三元权重量化的深度神经网络模型压缩方法在审
申请号: | 201810674698.3 | 申请日: | 2018-06-27 |
公开(公告)号: | CN108985453A | 公开(公告)日: | 2018-12-11 |
发明(设计)人: | 吴俊敏;丁杰;吴焕 | 申请(专利权)人: | 中国科学技术大学苏州研究院 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;H03M7/30 |
代理公司: | 苏州创元专利商标事务所有限公司 32103 | 代理人: | 范晴;丁浩秋 |
地址: | 215123 江苏省苏州*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于非对称三元权重量化的深度神经网络模型压缩方法,包括:在深度神经网络训练时,在每一次前向计算之前,将网络的每一层浮点权重量化为非对称的三元值,参数更新阶段使用原始的浮点型网络权重;对训练完成的深度神经网络进行压缩存储。去除深度神经网络的冗余参数,对网络模型进行压缩,有效地提升了量化方法在大数据集上的识别准确率。 | ||
搜索关键词: | 非对称 神经网络模型 权重量化 神经网络 压缩 浮点 神经网络训练 参数更新 前向计算 冗余参数 网络模型 压缩存储 大数据 网络权 有效地 准确率 去除 量化 网络 | ||
【主权项】:
1.一种基于非对称三元权重量化的深度神经网络模型压缩方法,其特征在于,包括以下步骤:S01:在深度神经网络训练时,在每一次前向计算之前,将网络的每一层浮点权重量化为非对称的三元值,参数更新阶段使用原始的浮点型网络权重;S02:对训练完成的深度神经网络进行压缩存储。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学技术大学苏州研究院,未经中国科学技术大学苏州研究院许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810674698.3/,转载请声明来源钻瓜专利网。