[发明专利]一种粗细粒度联合的神经网络剪枝方法在审
| 申请号： | 202111187212.1 | 申请日： | 2021-10-12 |
| 公开（公告）号： | CN113850385A | 公开（公告）日： | 2021-12-28 |
| 发明（设计）人： | 姜宏旭;朱雨婷;李波;张永华;东东;胡宗琦;从容子 | 申请（专利权）人： | 北京航空航天大学 |
| 主分类号： | G06N3/08 | 分类号： | G06N3/08;G06N3/04 |
| 代理公司： | 北京慕达星云知识产权代理事务所(特殊普通合伙) 11465 | 代理人： | 符继超 |
| 地址： | 100191*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种粗细粒度联合的神经网络剪枝方法，包括：对筛选出的候选滤波器进行组稀疏化训练，一定轮数后，将小于阈值的候选滤波器进行修剪；逐层对卷积核的重要性进行排序，并根据预先定义好的剪枝率逐层获得需要被剪枝的卷积核；以权重为单位，对卷积核进行正则化压缩，并在压缩过程中动态生成满足预先构建的模式判别函数的模式集；将每个卷积核匹配到所述模式集中该卷积核的最优模式；进行卷积核剪枝和模式剪枝；将需要被剪枝的参数置零，对模型进行硬剪枝；结合知识蒸馏方法对硬剪枝后的模型进行再训练和微调，得到剪枝后的最终模型。本发明能够充分发挥结构化和非结构化剪枝的优势，提高模型存储和推理效率，具有更高的硬件友好性。 | ||
| 搜索关键词： | 一种 粗细 粒度 联合 神经网络 剪枝 方法 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京航空航天大学，未经北京航空航天大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202111187212.1/，转载请声明来源钻瓜专利网。
