[发明专利]神经网络模型剪枝方法、装置、计算机设备和存储介质在审
申请号: | 202011064520.0 | 申请日: | 2020-09-30 |
公开(公告)号: | CN112215354A | 公开(公告)日: | 2021-01-12 |
发明(设计)人: | 潘浩;钱江;庄伯金;王少军 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08 |
代理公司: | 广州华进联合专利商标代理有限公司 44224 | 代理人: | 黄恕 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 模型 剪枝 方法 装置 计算机 设备 存储 介质 | ||
1.一种神经网络模型剪枝方法,其特征在于,所述方法包括:
获取待处理数据,将所述待处理数据输入至初始神经网络模型中,分别获取所述初始神经网络模型每一层输出的特征图;
对所述每一层输出的特征图进行分解处理,获得所述特征图对应的冗余度数据和通道索引数据;
基于所述冗余度数据以及所述通道索引数据,确定每一层的剪枝通道数据;
基于所述剪枝通道数据对所述初始神经网络模型进行剪枝处理。
2.根据权利要求1所述的方法,其特征在于,所述对所述每一层输出的特征图进行分解处理,获得所述特征图对应的冗余度数据和通道索引数据,包括:
对所述每一层输出的特征图进行矩阵分解,获得所述特征图对应的上三角矩阵和通道索引数据;
当所述上三角矩阵中对角线元素个数等于所述通道索引数据中的元素个数时,基于所述上三角矩阵中对角线元素,确定所述特征图对应的冗余度数据;
当所述上三角矩阵中对角线元素个数小于所述通道索引数据中的元素个数时,通过预设值补充所述对角线元素,以使所述对角线元素个数等于所述通道索引数据中的元素个数。
3.根据权利要求1所述的方法,其特征在于,所述基于所述冗余度数据以及所述通道索引数据,确定每一层的剪枝通道数据,包括:
基于所述通道索引数据,获取不同的待处理数据在同一通道的冗余度数据;
根据不同的待处理数据在同一通道的冗余度数据,得到各个通道对应的通道处理数据;
基于所述各个通道对应的通道处理数据以及预设剪枝阈值,确定每一层的剪枝通道数据。
4.根据权利要求3所述的方法,其特征在于,所述根据不同的待处理数据在同一通道的冗余度数据,得到各个通道对应的通道处理数据,包括:
基于不同的待处理数据在同一通道的冗余度数据进行叠加处理,获得叠加结果;
对所述叠加结果进行归一化处理,获得通道对应的通道处理数据。
5.根据权利要求3所述的方法,其特征在于,所述基于所述各个通道对应的通道处理数据以及预设剪枝阈值,确定每一层的剪枝通道数据,包括:
对所述各个通道对应的通道处理数据进行排序,并基于排序结果进行累加求和,获得通道权重数据;
将所述通道权重数据中的通道权重逐个与预设剪枝阈值进行比较,获得首个大于所述预设剪枝阈值的通道权重;
基于所述首个大于所述预设剪枝阈值的通道权重,确定每一层的剪枝通道数据。
6.根据权利要求5所述的方法,其特征在于,所述基于所述首个大于所述预设剪枝阈值的通道权重,确定每一层的剪枝通道数据,包括:
确定所述首个大于所述预设剪枝阈值的目标通道权重;
基于所述通道权重数据中大于所述目标通道权重的通道权重,确定每一层的剪枝通道数据。
7.一种神经网络模型剪枝装置,其特征在于,所述装置包括:
特征图获取模块,用于获取待处理数据,将所述待处理数据输入至初始神经网络模型中,分别获取所述初始神经网络模型每一层输出的特征图;
分解处理模块,用于对所述每一层输出的特征图进行分解处理,获得所述特征图对应的冗余度数据和通道索引数据;
剪枝通道确定模块,用于基于所述冗余度数据以及所述通道索引数据,确定每一层的剪枝通道数据;
剪枝处理模块,用于基于所述剪枝通道数据对所述初始神经网络模型进行剪枝处理。
8.根据权利要求7所述的装置,其特征在于,所述分解处理模块还用于对所述每一层输出的特征图进行矩阵分解,获得所述特征图对应的上三角矩阵和通道索引数据;
当所述上三角矩阵中对角线元素个数等于所述通道索引数据中的元素个数时,基于所述上三角矩阵中对角线元素,确定所述特征图对应的冗余度数据;
当所述上三角矩阵中对角线元素个数小于所述通道索引数据中的元素个数时,通过预设值补充所述对角线元素,以使所述对角线元素个数等于所述通道索引数据中的元素个数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011064520.0/1.html,转载请声明来源钻瓜专利网。