[发明专利]基于深度可分离卷积模块的剪枝方法及系统

权利要求书

1.一种基于深度可分离卷积模块的剪枝方法，其特征在于，所述方法包括：

利用稀疏化方式训练基于深度可分离卷积模块的Mobilenet神经网络；

利用剪枝规则对稀疏化训练后的网络模型进行处理，获得剪枝后的Mobilenet神经网络。

2.根据权利要求1所述的基于深度可分离卷积模块的剪枝方法，其特征在于，所述Mobilenet神经网络包括多组卷积模块，每组所述卷积模块包括Depthwise卷积块和Pointwise卷积块，训练损失函数Loss为：

Loss＝Loss_net+α(Loss_L1+Loss_diff)；

其中，α为调节系数，Loss_L1为稀疏化损失函数，Loss_diff为一致性损失函数，Loss_net为训练任务损失函数；

所述稀疏化损失函数Loss_L1为：

Loss_L1＝||Gamma_P||+||Gamma_D||；

其中，Gamma_D为本组可分离卷积模块的Gamma值，Gamma_P为上一组可分离卷积模块的Gamma值；

所述一致性损失函数Loss_diff为：

其中，P_mask＝Gamma_Pprune_thre；D_mask＝Gamma_Dprune_thre，prune_thre表示剪枝阈值，prune_thre＝le-4，P_mask表示Pointwise卷积块的mask，D_mask表示Depthwise卷积块的mask。

3.根据权利要求2所述的基于深度可分离卷积模块的剪枝方法，其特征在于，所述剪枝规则为：

Mask＝(Gamma_Pprune_thre)∪(Gamma_Dprune_thre)；

其中，prune_thre表示剪枝阈值，prune_thre＝le-4。

4.根据权利要求3所述的基于深度可分离卷积模块的剪枝方法，其特征在于，所述每组卷积模块中的Depthwise卷积核和Pointwise卷积核参数为：

Kernel_newD＝Kernel_D[Index_D，：，：，：]；

Kernel_newP＝Kernel_P[Index_P，Index_D，：，：]。

5.一种基于深度可分离卷积模块的剪枝系统，其特征在于，所述系统包括：

损失训练模块，用于利用稀疏化方式训练基于深度可分离卷积模块的Mobilenet神经网络；

通道剪枝模块，用于利用剪枝规则对稀疏化训练后的网络模型进行处理，获得剪枝后的Mobilenet神经网络。