[发明专利]基于优化通道剪枝的快速目标检测方法及系统在审
申请号: | 202011337992.9 | 申请日: | 2020-11-25 |
公开(公告)号: | CN112465114A | 公开(公告)日: | 2021-03-09 |
发明(设计)人: | 郭伟;李伟红;龚卫国 | 申请(专利权)人: | 重庆大学 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06K9/62 |
代理公司: | 重庆华科专利事务所 50123 | 代理人: | 康海燕 |
地址: | 400030 *** | 国省代码: | 重庆;50 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 优化 通道 剪枝 快速 目标 检测 方法 系统 | ||
本发明公开一种基于优化通道剪枝的快速目标检测方法及系统,属于计算机视觉、图像处理、模式识别领域,本发明方法首先通过稀疏训练,得到原始的目标检测模型。稀疏训练可以训练尺度因子,其中尺度因子训练结果的大小决定检测模型中稀疏层通道的重要程度。然后,利用层级加权阈值进行通道剪枝。该层级加权阈值同时考虑了某个通道在对应网络层的重要程度,以及其在整个网络结构中的重要程度。通过合理的通道剪枝,本发明能实现更有效的模型压缩,其目标检测网络模型的参数数量会大大降低,并且显著提高检测效率。实验结果表明,本发明与目前优秀的方法相比具有更先进的性能。
技术领域
本发明属于计算机视觉、图像处理、模式识别领域。具体涉及基于通道剪枝的图像快速目标检测技术。
背景技术
基于深度学习的目标检测方法,通常需要更大、更复杂的网络模型才能获得更好的检测精度。然而,较大的网络模型往往体积较大,这将影响检测效率,并且难以在资源有限的设备上部署网络模型进行实时检测和实际应用。
根据经验可知,较大的网络模型通常包含大量冗余信息,因此一些研究者提出了一些模型压缩方法,以减少模型体积,加快目标检测速度。在这些模型压缩方法中,结构剪枝,特别是通道剪枝,被广泛用于减少模型参数数量和计算复杂度。然而,现有的通道剪枝方法,通常为所有网络模型层设计一个预定义的全局通道剪枝阈值,或者为每层设计一个独立的局部通道剪枝阈值,以删除不重要的通道,实现节省模型内存占用和减少模型推理时间。值得注意的是,通道剪枝方法通常使用模型中批处理归一化(Batch Normalization)层的尺度因子来度量各通道的重要性,同时也根据该尺度因子来设计通道剪枝阈值。但在设计通道剪枝阈值时,上述方法要么只考虑全局尺度因子的大小分布情况,要么只考虑局部尺度因子在对应稀疏层的大小分布情况。所以之前的通道剪枝阈值不能同时达到针对所有层的全局最优,和针对每一层的局部最优。由此,之前的通道剪枝效果不是最优的。
因此,如何在不影响目标检测模型精度的前提下,发明一种更适合的、具有更优通道剪枝阈值的通道剪枝方法,实现更高效的模型压缩,提高图像目标检测速度,是目前亟待解决的问题。
发明内容
有鉴于此,本发明提供一种基于优化通道剪枝的快速目标检测方法及系统,以改进现有技术对目标检测中通道剪枝模型压缩不够合理的问题,提高图像目标检测速度。
为实现上述目的,本发明采用以下技术方案:
一种基于优化通道剪枝的快速目标检测方法,所述方法包括以下步骤:
(1)采用基于卷积神经网络(Convolutional Neural Network)的单阶段目标检测模型(YOLOv3)对待检测的目标图像进行稀疏训练。稀疏训练可以训练尺度因子,其中尺度因子训练结果的大小决定检测模型中稀疏层通道的重要程度。稀疏训练得到原始的稀疏检测模型,所述原始的稀疏检测模型中的每个卷积层后面都有一个BN层。
在结构化通道剪枝中,稀疏训练是获取剪枝层系数尺度因子的关键。而稀疏训练是模型检测精度和稀疏性的博弈过程。稀疏训练时,通常会设置一个惩罚因子,来使得模型在具有较高检测精度的同时,实现相对较高的稀疏性。为了实现高效的通道剪枝,本发明方法为每个剪枝层通道设置一个静态尺度因子,该静态尺度因子的绝对值表示该通道的重要性。更具体地说,除了检测头的最后一层之外,本发明方法的网络模型中的每个卷积层后面都有一个BN(Batch Normalization)层,用以加速训练收敛和提高模型泛化能力。因此,本发明方法使用BN层的尺度因子作为对应卷积层通道的尺度因子。BN层归一化卷积层的特征,如式(1)所示。
和σ2是一个批次输入特征的均值和方差,γi和βi是BN层中第i个尺度因子和偏差。xi和yi是BN层中第i个输入和归一化后的输出,ε表示一个极小的整数,通常设置为1e-5。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于重庆大学,未经重庆大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011337992.9/2.html,转载请声明来源钻瓜专利网。