[发明专利]基于深度卷积神经网络模型的结构化剪枝方法和装置

说明书

本申请公开了一种基于深度卷积神经网络模型的结构化剪枝方法和装置。该方法包括：基于BN层的缩放因子对预先训练的深度卷积神经网络模型进行稀疏正则化训练，得到稀疏模型；根据稀疏模型的第一BN层参数，计算稀疏模型中残差结构的重要性评分；根据残差结构的重要性评分以及预设剪枝层数，对稀疏模型进行层剪枝；根据稀疏模型的第二BN层参数，计算各通道的重要性评分；根据各通道的重要性评分、预设全局剪枝率和预设局部保护剪枝率，对结构化层剪枝后的模型进行通道剪枝，得到结构化通道剪枝后的模型；整理结构化通道剪枝后的模型，得到用于在嵌入式端部署应用的轻量化模型。本申请能够解决高精度复杂模型难以在(中低端)移动端直接部署的问题。

技术领域

本申请涉及计算机技术领域，具体而言，涉及一种基于深度卷积神经网络模型的结构化剪枝方法、装置、计算机设备和存储介质。

背景技术

自从2012年深度学习算法在图像分类任务中取得举世瞩目的成绩后，深度卷积神经网络逐渐取代了传统的统计学习成为计算机视觉的主流框架和方法，并在包括人脸识别、辅助驾驶等方面得到了广泛的应用。然而高精度模型一般设计复杂，往往伴随着高额的存储空间、计算资源消耗，难以在(中低端)移动端直接部署应用。

通过模型压缩可以有效减小模型体积，降低模型计算量。发明人发现，当前主流模型压缩方法如网络结构重构、知识蒸馏都需要一定的深度学习专业知识以及调参经验，迭代周期长；量化只能在一定程度上降低每个权重所需要的空间，对计算量降低贡献较小。而模型剪枝由于其相对简单的思想，已经逐渐开始大规模在终端设备上部署并取得了较好的市场认可。有研究指出很多深度卷积神经网络中存在显著冗余，仅仅使用很少一部分权值就足以预测剩余的权值，因此模型裁剪可以实现非常可观的压缩率。

针对高精度复杂模型难以在(中低端)移动端直接部署的问题，本发明提出了一种基于深度卷积神经网络模型的结构化剪枝方法。

发明内容

本申请的主要目的在于提供一种基于深度卷积神经网络模型的结构化剪枝方法和装置，以解决高精度复杂模型难以在(中低端)移动端直接部署的问题。本申请设计方案能够有效降低深度卷积神经网络模型在移动端的存储空间占用与计算资源消耗，大大提升深度学习算法在嵌入式平台上的性能。

为了实现上述目的，根据本申请的一个方面，提供了一种基于深度卷积神经网络模型的结构化剪枝方法。

本申请主要针对经典检测网络YOLOv3进行剪枝，因此精度评估指标主要有meanAverage Precision(mAP)，模型体积和速度评估指标主要有参数量和计算量。

根据本申请的基于深度卷积神经网络模型的结构化剪枝方法包括：

基于BN层的缩放因子对预先训练的深度卷积神经网络模型进行稀疏正则化训练，得到稀疏模型；

根据所述稀疏模型的第一BN层参数，计算所述稀疏模型中残差结构的重要性评分；

根据所述残差结构的重要性评分以及预设剪枝层数，对所述稀疏模型进行层剪枝，得到结构化层剪枝后的模型；

根据所述稀疏模型的第二BN层参数，计算各通道的重要性评分；

根据各通道的重要性评分、预设全局剪枝率和预设局部保护剪枝率，对所述结构化层剪枝后的模型进行通道剪枝，得到结构化通道剪枝后的模型；

整理所述结构化通道剪枝后的模型，得到用于在嵌入式端部署应用的轻量化模型。

进一步的，所述基于BN层的缩放因子对预先训练的深度卷积神经网络模型进行稀疏正则化训练，得到稀疏模型包括：

对BN层的缩放因子添加L1正则约束，以诱导BN层稀疏化，得到稀疏训练的损失函数；

对所述损失函数进行训练，以更新BN层的缩放因子，以得到稀疏模型。