[发明专利]基于特征图响应的通道自适应分段动态网络剪枝方法

权利要求书

1.基于特征图响应的通道自适应分段动态网络剪枝方法，其特征在于，包含以下步骤：

S1：根据实际应用需要，搭建n层的卷积神经网络；

S2：将该n层的卷积神经网络按照特征图尺度大小及网络抽象程度分为前端浅层网络和后端深层网络这两个分段网络；其中，前m层为前端浅层网络，主要是提取输入图像的轮廓及纹理信息；后n-m层为后端深层网络，主要提取输入图像的高层语义特性；

S3：在前端浅层网络层每一层的激活函数后与下一层卷积神经网络层之间，串联一个由霍夫变换和感知哈希算法串联构成的特征图信息分布响应模型；

S4：在后端深层网络层每一层的激活函数后与下一层卷积神经网络层之间，串联一个由灰度共生矩阵和灰度直方图串联构成的特征图信息分布响应模型；

S5：从输入层开始，利用数据集，按照前端浅层网络和后端深层网络的剪枝次序，分别对整个卷积神经网络开始训练；

S6：分别针对完成训练的分段网络，根据每层特征图的信息分布模型输出计算卷积通道的相似度；

S7：分别针对完成训练的分段网络，按照设定的剪除率，根据相似度依次序剪除步骤S6中计算得到的相似度低的神经元分支；

S8：重复步骤S5～S7，分别完成整个卷积神经网络的剪枝，并将剪枝后的卷积神经网络应用到实际问题中。

2.根据权利要求1所述的基于特征图响应的通道自适应分段动态网络剪枝方法，其特征在于，步骤S2所述的特征图尺度大小取决于采样操作；所述的网络抽象程度取决于卷积神经网络的节点数以及它们之间的连接关系；具体的将卷积神经网络分为前端浅层网络和后端深层网络，分段依据可以通过判断提取的卷积层所提取的特征信息是否为具体轮廓及纹理信息还是抽象高层语义特性进行界定。

3.根据权利要求1所述的基于特征图响应的通道自适应分段动态网络剪枝方法，其特征在于，步骤S3和步骤S4所述的串联的特征图信息分布响应模型在剪枝完成后也需要移除。

4.根据权利要求1所述的基于特征图响应的通道自适应分段动态网络剪枝方法，其特征在于，步骤S5所述的训练的终止条件为：按照剪枝次序确定训练的分段网络，通过比较迭代训练中，本轮该分段网络与下一轮该分段网络最后一层输出的特征图之间差异性是否满足设定阈值的要求来决定本分段网络的训练是否结束。

5.根据权利要求1所述的基于特征图响应的通道自适应分段动态网络剪枝方法，其特征在于，步骤S6所述的相似度的计算过程为：

S601：根据每层特征图的信息分布模型输出确定分布类型和分布参数；

S602：给下一层的每一个卷积核生成一个与S601相同分布和参数的灰度图；

S603：利用下一层的每一个卷积核对灰度图进行卷积运算，分别得到每个卷积核对应生成的新特征图，来表示该卷积核在该分布下的特征提取能力；

S604：对每个新特征图计算图像熵；其中，熵对应相似度，熵越大，相似度越高。

6.根据权利要求1所述的基于特征图响应的通道自适应分段动态网络剪枝方法，其特征在于，步骤S2所述的前端浅层网络和后端深层网络还可以根据输出的特征图缩放大小分布的多尺度特征进一步分别再分段为若干个子网络，每一个子网络为一个分段网络；此时，对应的步骤S5～步骤S7中训练和剪枝过程需要从前端浅层网络和后端深层网络的次序改为从前端浅层网络逐子网络和后端深层网络逐子网络的次序。