[发明专利]通道注意力引导的卷积神经网络动态通道剪枝方法和装置在审
申请号: | 202110422158.8 | 申请日: | 2021-04-20 |
公开(公告)号: | CN112949840A | 公开(公告)日: | 2021-06-11 |
发明(设计)人: | 冯帅;李沛秦;牛照东;李辉;李悦;王玉朋 | 申请(专利权)人: | 中国人民解放军国防科技大学 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 上海上谷知识产权代理有限公司 31342 | 代理人: | 陈婷婷 |
地址: | 410000 湖*** | 国省代码: | 湖南;43 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供一种通道注意力引导的卷积神经网络动态通道剪枝方法和装置。所述方法包括:在卷积神经网络卷积层下添加通道注意力模块;输入图片,前向传播计算每层卷积层生成的特征图;根据裁剪率确定全局阈值;计算每层卷积层中每个激活通道网络损失的梯度值;计算通道的贡献度,筛选贡献度大于全局阈值的通道并赋其对应的掩码值为1,否则赋掩码值为0;通道输出与对应的掩码值相乘;根据网络任务选择继续迭代训练或进入下一步剪枝阶段;训练结束后,剪枝贡献度小于全局阈值的通道所对应的卷积核;拷贝保留的参数。该方法可实现卷积神经网络在训练过程中同步完成剪枝工作,节省大量时间,并可自动获取每个通道的重要程度,提高训练和剪枝效率。 | ||
搜索关键词: | 通道 注意力 引导 卷积 神经网络 动态 剪枝 方法 装置 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国人民解放军国防科技大学,未经中国人民解放军国防科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202110422158.8/,转载请声明来源钻瓜专利网。