[发明专利]一种基于轻量级卷积神经网络的图像分类方法

说明书

本发明涉及一种基于轻量级卷积神经网络的图像分类方法，属于计算机深度学习领域。该方法设计一种轻量级卷积单元，具体包括：S1：采用逐点卷积对输入特征图进行通道扩张；S2：采用深度卷积对输入特征图的通道进行分组；S3：批量标准化：对输入层和每一中间层的输入做标准化处理；S4：将输入特征图与批量标准化后的特征图进行concat拼接；S5：采用逐点卷积对输出通道进行收缩；S6：将经过步骤S5得到的特征图通过激活函数R_Hard_Swish。本发明相较于大型卷积神经网络，参数量和计算量大幅减少，在准确度性能的表现上相较于其他轻量级卷积神经网络而言效果更好。

技术领域

本发明属于计算机深度学习领域，涉及一种轻量级卷积神经网络的设计方法。

背景技术

卷积神经网络广泛应用于各种计算机视觉任务中，包括图像分类、目标检测和语义分割等。为了获得更高的准确度，最直接的方法是增加卷积神经网络的深度，例如AlexNet和VGGNet。然而，随着网络深度的增加，卷积神经网络往往含有大量的训练参数，导致计算量和模型体量大幅增加。因此，训练和部署深度学习模型仍然是一项困难的任务，需要大量的计算资源和存储资源。

随着智能化的移动端设备、物联网设备和嵌入式设备的发展，在这些设备上训练和部署卷积神经网络模型的需求越来越迫切，但这类设备计算资源和存储资源有限，ResNet这类大型卷积神经网络不适用于这类设备。

近年来，许多研究集中在构建轻量级的、高效的神经网络上，包括Exception、SqueezeNet、SqueezeNext、MobileNet系列和ShuffleNet系列等。SqueezeNet和SqueezeNext通过1×1的卷积将输入的特征图分为两组，再将两组卷积得到的特征图通过拼接和1×1卷积进行整合来替代传统卷积操作；MobileNet系列将每次卷积操作分为深度可分离卷积和逐点卷积两步；ShuffleNet系列将逐点分组卷积、通道混洗、深度可分离卷积、再次逐点分组卷积和残差连接四步作为一个基本单元替代传统卷积操作。

对以上方案进行总结，可以发现这些轻量级模型都包含了分组卷积和通道整合两个基本组成部分。分组卷积是通过给特征图进行分组再分别进行卷积操作，而不是将前一层输出的所有特征图进行卷积从而节省计算量，因此，分组卷积实际上成为轻量级网络的标准组件。虽然分组卷积可以大大减少神经网络的计算量，但由于每个组都是独立卷积的，因此也会导致组与组之间存在信息障壁，为了解决这个问题，在分组卷积之后还需要进行通道整合的操作。并且，这些轻量级卷积神经网络深度较浅，提取到的特征信息有限，在准确度上仍然有可提升的空间。

发明内容

有鉴于此，本发明的目的在于提供一种轻量级卷积神经网络的设计方法，解决深度较深的大型卷积神经网络难以在计算资源和存储资源有限的移动智能端设备、嵌入式设备和物联网设备等训练与部署，且现有的轻量级卷积神经网络在准确度性能上仍有较大提升空间的问题。结合深度可分离卷积和特征重用设计了一种卷积单元用于替代传统卷积操作，并改进Hard_Swish激活函数以解决神经元死亡的问题。不仅能够在准确度性能上优于其他深度较浅的轻量级卷积神经网络，而且能够在大型卷积神经网络上大幅减少参数量和计算量，使得卷积神经网络应用于智能移动端设备、嵌入式设备和物联网设备成为了可能。

为达到上述目的，本发明提供如下技术方案：

一种轻量级卷积神经网络的设计方法，设计一种轻量级卷积单元，具体包括以下步骤：

S1：采用逐点卷积对输入特征图进行通道扩张；

S2：采用深度卷积对输入特征图的通道进行分组；

S3：批量标准化：对输入层和每一中间层的输入做标准化处理；

S4：concat拼接：将输入特征图与批量标准化后的特征图进行concat拼接；

S5：采用逐点卷积对输出通道进行收缩；