[发明专利]一种基于轻量化深度神经网络的图像识别方法及装置

权利要求书

1.一种基于轻量化深度神经网络的图像识别方法，其特征在于，包括以下步骤：

步骤1、构建用于图像识别的深度神经网络模型；基于训练集训练构建的模型，得到训练好的模型；

步骤2、轻量化模型：初始化修剪参数，包括模型中各个特征层的修剪步长α_i，并循环更新模型的参数与修剪参数；每轮循环过程如下：

首先，对于当前模型M中的当前特征层，采用任意的评价通道重要性的方法对其各个通道进行重要性程度排序，对重要性较低的α_i个通道进行修剪，得到本轮修剪后的模型M′；其中特征层是指模型中由一个卷积层、批归一化层和激活层组成的模块，α_i为当前特征层的修剪步长，i为当前特征层的索引；

然后，基于训练集训练模型M′，并基于验证集计算训练后模型M′的精度，将其减去模型M的精度，得到模型M′的相对精度acc；

若相对精度acc≥0，则先计算本轮模型修剪的奖励，由此更新修剪参数，再进行下一轮循环；

若相对精度acc＜0，则判断精度损失|acc|是否在允许的精度损失范围内，若是，则放弃本轮修剪后的模型M′，回退到本轮修剪前的模型M，并且更新修剪参数，再进行下一轮循环，否则放弃本轮修剪后的模型M′，回退到本轮修剪前的模型M，并且结束循环；

步骤3、利用最终修剪及训练后的模型对待识别图像进行识别，确定其类别标签。

2.根据权利要求1所述的基于轻量化深度神经网络的图像识别方法，其特征在于，所述步骤2中，对于当前模型M中任一特征层，基于其批归一化层中各通道对应的放缩系数大小对各通道进行重要性程度排序；对应的放缩系数越大的通道重要性程度越大。

3.根据权利要求1所述的基于轻量化深度神经网络的图像识别方法，其特征在于，所述步骤2中，对重要性较低的α_i个通道进行修剪，是指对卷积层、全连接层、归一化层中与这α_i个通道相关联的权重进行置0。

4.根据权利要求1所述的基于轻量化深度神经网络的图像识别方法，其特征在于，基于训练集训练模型，并基于验证集计算训练后模型的精度的方法为：训练过程中，每一次迭代基于训练集对模型进行训练，并基于验证集计算该次迭代后模型的精度；训练达到最大迭代次数T后，取T个精度中的最大值，作为训练后模型的精度。

5.根据权利要求1所述的基于轻量化深度神经网络的图像识别方法，其特征在于，训练过程中，学习率按照阶梯式进行递减操作，分别在迭代次数等于最大迭代次数T的30％、60％、90％处分别将学习率下降为原来的0.2。