[发明专利]一种基于BN层多因子的剪枝方法在审
申请号: | 202111601084.0 | 申请日: | 2021-12-24 |
公开(公告)号: | CN116432734A | 公开(公告)日: | 2023-07-14 |
发明(设计)人: | 谢涛;赵相强;于重重;田昊 | 申请(专利权)人: | 北京工商大学 |
主分类号: | G06N3/082 | 分类号: | G06N3/082;G06F18/214;G06N3/0464 |
代理公司: | 北京万象新悦知识产权代理有限公司 11360 | 代理人: | 贾晓玲 |
地址: | 100048*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提出一种基于BN层多因子的剪枝方法,属于深度学习、模型压缩和加速技术领域。该方法使用多因子L1正则化来稀疏参数,设计通道得分函数,引入偏移因子来修正通道得分,使用局部剪枝代替全局剪枝,以获得更高的模型压缩率,针对模型体积较大的情况,剪枝后使用知识蒸馏进行微调以保持与原始模型相同的分布,提高剪枝后模型精度。本发明在各种模型和数据集上的模型精度体积方面优于现有几种剪枝方法,剪枝后模型在经知识蒸馏微调精度有所提高,同时模型泛化能力不受影响,在边缘计算设备推理速度有明显提升。 | ||
搜索关键词: | 一种 基于 bn 因子 剪枝 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京工商大学,未经北京工商大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202111601084.0/,转载请声明来源钻瓜专利网。