[发明专利]一种深度神经网络的压缩方法在审
申请号: | 201811614117.3 | 申请日: | 2018-12-27 |
公开(公告)号: | CN109726799A | 公开(公告)日: | 2019-05-07 |
发明(设计)人: | 苟旭 | 申请(专利权)人: | 四川大学 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 成都帝鹏知识产权代理事务所(普通合伙) 51265 | 代理人: | 黎照西 |
地址: | 610000 四*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开一种深度神经网络的压缩方法,包括步骤:网络参数修剪:通过剪枝来修剪网络,删除冗余连接,保留信息量最大的连接;训练量化和权值共享:对权重进行量化,使多个连接共享相同的权重,并存储有效权重和索引;利用有效权值的偏置分布,使用霍夫曼编码获取压缩网络。本发明通过修改剪枝和权重共享等方式,提高压缩后网络的精度,大大减少了计算内存空间,大大提高了运行速度;从而有效减少大型网络的计算量和内存,以便它们可以在有限的硬件设备上有效运行。 | ||
搜索关键词: | 权重 压缩 神经网络 剪枝 修剪 共享 量化 霍夫曼编码 大型网络 内存空间 冗余连接 网络参数 硬件设备 有效减少 有效权重 有效运行 网络 计算量 偏置 索引 内存 信息量 删除 存储 保留 | ||
【主权项】:
1.一种深度神经网络的压缩方法,其特征在于,包括步骤:S100,网络参数修剪:通过剪枝来修剪网络,删除冗余连接,保留信息量最大的连接;S200,训练量化和权值共享:对权重进行量化,使多个连接共享相同的权重,并存储有效权重和索引;S300,利用有效权值的偏置分布,使用霍夫曼编码获取压缩网络。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于四川大学,未经四川大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201811614117.3/,转载请声明来源钻瓜专利网。
- 上一篇:一种数据处理方法及装置
- 下一篇:运算方法、装置及相关产品