[发明专利]基于感受野准则的过滤器修剪方法

说明书

本发明公开了基于感受野准则的过滤器修剪方法，包括以下步骤：S1：构建感受野准则RFC模型，感受野准则是去衡量一个卷积核的重要性程度；S2：通过全局自适应滤波器搜索GAFS对模型进行全局阈值剪枝；本发明将感受野中的最大激活和信息熵结合变成卷积核度量准则然后运用到剪枝、本发明通过实验每一层来找出最冗余的层，通过只剪枝一层来避免同时剪枝多层卷积核，避免将不同语义层的卷积核一起考虑剪枝。

技术领域

本发明涉及卷积神经网络领域，特别是基于感受野准则的过滤器修剪方法。

背景技术

在过去的几年中，卷积神经网络(CNN)在各种计算机视觉任务中取得了最先进的性能。例如图像分类，目标检测，图像超分辨率，风格迁移，如今成为了最主流的机器学习模型，并提出了不同网络结构。然而，过度参数化仍然是在手机或者监控设备等边缘智能中部署CNN的一个严峻挑战。网络的过参数化会造成网络的存储浪费和推理耗时，甚至造成网络的过拟合。网络剪枝是一种常用来压缩模型的一种方法，它能使得网络的结构大量的缩小同时保持网络的学习能力的不变。而结构化剪枝(即主要修剪掉CNN整个卷积核)相比于非结构化剪枝(即主要修剪卷积核中的单个权重)不需要专门的工具就可以实现加速。通常结构化剪枝是去寻找最不重要的卷积核然后删掉它们，所以衡量卷积核重要性是个非常重要的话题(即去设置一个分数函数T)。

现有技术一：

高效卷积神经网络的剪枝滤波器，

如图1所示：h,w代表特征图的长和宽。n代表特征图的数量。X代表整个特征图。卷积核矩阵中每一列代表一个卷积核。则剪枝一个卷积核会响应剪枝下一层的特征图和下一层卷积核的维度。

在图1中的剪枝方案具体步骤有以下几步：

1)计算卷积核中所有权值的绝对值之和。2)根据求和大小排列卷积核。3)删除数值较小的卷积核(权重数值越小，代表权重的重要性越弱)4)对删除之后生成新的。

现有技术一的缺点：

1、启发式以卷积核权重去度量卷积核的重要性，没有考虑小权重的卷积核可能会产生大输出和大权重的卷积核可能会产生小输出。

2、没有考虑到各层卷积核本身语义的不同而直接一起考虑全局的卷积核。如vgg16有13层卷积层，直接将13层中所有卷积核进行排序并没有考虑到各层卷积核语义的不同(浅层和深层的卷积核本身就存在重要性差异并不能直接进行比较)

现有技术二：

BN层具体操作流程；

在神经网络计算中每一层的特征图(一个通道由一个卷积核卷积而来，这一层所有的通道组成特征图)都将经过一个BN层然后再进行下一步的计算，具体的BN层操作图2所示，对于一个特征图首先根据特征图的所有像素点B＝{x1...m}计算均值和方差，然后再对每个像素点做标准化处理，最后对标准化后的每个像素点做重构变化得到BN层得输出。其中γ和β参数是可以学习的。将原有的Batch Normalization层的γ参数看作为特征图重要性评估(由BN层γ参数的含义可知特征图的每个通道对应一个γ值，所以这个γ值相当于该通道的重要性)，然后将重要性低于某个阈值的通道剪掉，剪掉通道相当于生成这些通道的对应卷积核也被剪掉。

现有技术二的缺点：

1、直接根据BN层γ参数的大小作为卷积核重要性的度量，并没有考虑小的γ参数的通道可能会比大的γ参数的通道产生更大的影响。

2、直接根据全局的γ参数的大小进行剪枝，并没有考虑每一层的语义不同而不能将不同层卷积核交叉考虑。

现有技术三：

如图3所示：图3左边为基础网络，图3右边为评分网络。黄色conv是卷积核F，绿色为特征图M，蓝色基础网络中对于卷积核的掩码u(0或1代表该卷积核是否被剪枝掉)，黄色是评分网络中对于卷积核的掩码v。