[发明专利]深度卷积神经网络的轻量化方法、系统及目标检测方法

说明书

本发明涉及一种用于目标检测的深度卷积神经网络的轻量化方法、系统及目标检测方法，属于目标检测技术领域，解决了现有目标检测时Faster RCNN模型计算和存储复杂度高的问题。包括：获取训练好的MobileNet模型作为预训练模型，搭建深度可分离卷积结构的FasterRCNN模型，训练后得到初始Faster RCNN模型；对初始Faster RCNN模型中特征提取主干网络进行稀疏低秩分解、通道裁剪和训练，得到初步轻量化后的Faster RCNN模型；对初步轻量化后的Faster RCNN模型中区域建议网络进行张量Tensor‑Train分解，训练后得到二次轻量化后的Faster RCNN模型；对二次轻量化后的Faster RCNN模型中识别与分类网络进行稀疏低秩分解、通道裁剪和训练，得到最终轻量化后的FasterRCNN模型。实现了目标检测模型较高的压缩倍数，提高了目标检测的速度和精度。

技术领域

本发明涉及目标检测技术领域，尤其涉及一种用于目标检测的深度卷积神经网络的轻量化方法、系统及目标检测方法。

背景技术

随着计算机视觉的发展，应用于视频/图像的深度学习算法在目标检测、识别、分类、分割及更高层面的语义分析等任务中都得到飞速发展，特别是基于深度卷积神经网络的目标检测与识别算法的成功应用，使得深度学习在计算机视觉领域得到了迅猛发展。

最新的端到端的近实时的目标检测模型Faster RCNN，引入区域建议网络(RegionProposal Network，RPN)用于构建目标候选区域，极大提高了检测效果。

然而，Faster RCNN目标检测框架的模型存储大小超过了1GB，对硬件存储要求和计算开销能力提出了更高的要求，往往需要在拥有高存储高计算性能的GPU(GraphicsProcessing Unit)服务器上进行的，在实际工程实践中部署成本较为昂贵，使其无法直接部署到移动终端、嵌入式设备以及个人电脑等存储空间和计算能力都有限的设备中。针对图像检测网络中参数量多且计算复杂高等问题，Google团队于2017年提出了第一个体积小、计算量少、且适用于移动设备的轻量化卷积神经网络MobileNet V1，采用深度可分离卷积层代替标准的卷积层，实现VGGNet等网络的轻量化设计，但其仅能将参数量降低到标准卷积层的1/8或1/9，轻量化效果有限，不能满足实际应用需求。

模型压缩算法也是一种有效的深度卷积神经网络的轻量化方法。模型剪枝便是模型压缩算法中目标较为常见和使用的一种压缩方法，这种模型压缩算法基于参数修剪和共享的思想关注于探索模型参数中冗余的部分，并对已训练好的模型网络寻找一种有效的评判手段，尝试去除模型中冗余和不重要的参数，只保留对整个网络模型重要的权值参数，实现整个深度卷积神经网络模型的轻量化设计。但由于大多数深度卷积神经网络均通过堆叠网络层结构的方式实现整个模型的构建，因此，在整个模型的剪枝过程中，对当前卷积层冗余通道的剪枝势必会出现下一层卷积层输入通道维度的不匹配的问题。特别是对于待裁剪网络层结构较为复杂的情况时，模型剪枝技术往往会出现较大问题。

发明内容

鉴于上述的分析，本发明实施例旨在提供一种用于目标检测的深度卷积神经网络的轻量化方法、系统及目标检测方法，用以解决现有目标检测时Faster RCNN模型计算和存储复杂度高的问题。

一方面，本发明实施例提供了一种用于目标检测的深度卷积神经网络的轻量化方法，包括如下步骤：

获取训练好的MobileNet模型作为预训练模型，搭建深度可分离卷积结构的Faster RCNN模型，训练后得到初始Faster RCNN模型；

对初始Faster RCNN模型中特征提取主干网络进行稀疏低秩分解、通道裁剪和训练，得到初步轻量化后的Faster RCNN模型；

对初步轻量化后的Faster RCNN模型中区域建议网络进行张量Tensor-Train分解，训练后得到二次轻量化后的Faster RCNN模型；