[发明专利]一种结构化剪枝的方法以及系统在审
申请号: | 202210805865.X | 申请日: | 2022-07-08 |
公开(公告)号: | CN115222042A | 公开(公告)日: | 2022-10-21 |
发明(设计)人: | 赵泽;余昉;崔莉 | 申请(专利权)人: | 中国科学院计算技术研究所 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04 |
代理公司: | 北京泛华伟业知识产权代理有限公司 11280 | 代理人: | 王勇 |
地址: | 100190 北*** | 国省代码: | 北京;11 |
权利要求书: | 暂无信息 | 说明书: | 暂无信息 |
摘要: | 本发明提供了一种结构化剪枝的方法和系统,该方法包括:S1、将深度神经网络中指定的网络层设置为待剪枝层,得到待处理深度神经网络;S2、利用图像数据集多次训练待处理深度神经网络并在训练过程进行多次预剪枝处理,每次预剪枝处理包括:根据所有待剪枝层在图像数据集上的重要性将重要性排序靠后的且被预剪枝后能够满足每次预剪枝的剪枝量的多个待剪枝层设为被预剪枝,重要性基于待剪枝层的权重参数、梯度以及激活频次确定;S3、当预剪枝处理的次数达到预定的预剪枝次数时,利用图像数据集对预剪枝后的待处理深度神经网络进行微调,并且将与被预剪枝的待剪枝层对应的网络层进行剪枝处理;本发明在压缩模型的同时可更好地保障模型的精度。 | ||
搜索关键词: | 一种 结构 剪枝 方法 以及 系统 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国科学院计算技术研究所,未经中国科学院计算技术研究所许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202210805865.X/,转载请声明来源钻瓜专利网。