[发明专利]一种联合层剪枝和通道剪枝的卷积神经网络压缩方法在审
申请号: | 202110449059.9 | 申请日: | 2021-04-25 |
公开(公告)号: | CN113222138A | 公开(公告)日: | 2021-08-06 |
发明(设计)人: | 霍静;黄中豪;李文斌;高阳 | 申请(专利权)人: | 南京大学;江苏万维艾斯网络智能产业创新中心有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04 |
代理公司: | 南京泰普专利代理事务所(普通合伙) 32360 | 代理人: | 方晓雯 |
地址: | 210023 江苏*** | 国省代码: | 江苏;32 |
权利要求书: | 暂无信息 | 说明书: | 暂无信息 |
摘要: | 本发明提出了一种联合层剪枝和通道剪枝的模型剪枝算法,该算法包括:步骤1、稀疏化训练;步骤2、分层自适应阈值查找;步骤3、根据阈值确定各层的稀疏率;步骤4、计算层重要性排序;步骤5、层剪枝;步骤6、通道剪枝;步骤7、微调。稀疏化训练使用极化正则化器对卷积神经网络模型进行训练,然后使用分层自适应的剪枝阈值查找方法确定每层的稀疏率,根据每个卷积层的通道稀疏率确定层剪枝基本单位的重要性,并据此重要性确定层剪枝的次序,最后进行层剪枝和通道剪枝得到压缩后的网络结构。该方法能够结合层剪枝和通道剪枝的优点,同时去除卷积神经网络在深度和宽度上的冗余,从而有利于大型卷积神经网络在计算资源受限的边缘设备上部署应用。 | ||
搜索关键词: | 一种 联合 剪枝 通道 卷积 神经网络 压缩 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京大学;江苏万维艾斯网络智能产业创新中心有限公司,未经南京大学;江苏万维艾斯网络智能产业创新中心有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202110449059.9/,转载请声明来源钻瓜专利网。