[发明专利]一种即插即用的基于特征金字塔的非降维通道注意力模块

说明书

本发明提出一种即插即用的基于特征金字塔的非降维通道注意力模块，称为MECA模块，解决传统的SE注意力模块捕获空间特征能力不强，和使用全连接层降维会引入过多参数和不必要信息这两个问题。MECA模块分为M1ECA模块和M2ECA模块两种形式。在细粒度识别领域对比同类注意力有较好的识别效果。

技术领域

本发明提出一种一种即插即用的基于特征金字塔的非降维通道注意力模块，称为MECA模块，解决传统的SE注意力模块捕获空间特征能力不强，和使用全连接层降维会引入过多参数和不必要信息这两个问题。MECA模块分为 M1ECA模块和M2ECA模块两种形式。在细粒度识别领域对比同类注意力有较好的识别效果。

背景技术

基于弱监督的细粒度识别算法，也就是只使用图像级标注，其主要是通过构建子网络对模型进行额外训练，但是这类方法需要大量的计算开销。因此，如何在保证细粒度识别准确率的同时尽可能的轻量化网络，是优化细粒度识别网络的主要问题。

传统的SE通道注意力模块存在两点局限性。其一，SE模块选用了最简单的全局平均池化方法，虽然能够实现较强的正则化效果，但是却丢失了空间上的许多特征表示和结构信息。其二，SE模块使用了全连接层和RELU函数进行降维——激活——升维，一方面，使用全连接层降维需要引入的参数数量较多，另一方面，这使得原本相距较远的通道也会被全连接层强制加以联系，引入了一些对区分图像类别作用不大的信息。

发明内容

针对上述问题，本发明提出了一种基于特征金字塔的非降维通道注意力模块，用于增强网络，并且引用了Luo等人提出的语义分组方法进行进一步的增强。本发明在Resnet-50的基础上，一方面，通过MECA模块，增强网络的识别效能，另一方面，引入语义分组和特征增强模块，对MECA做进一步的增强，对比于几种同类的注意力，MECA能够取得较好的效果。

本发明采取如下技术方案：一种即插即用的基于特征金字塔的非降维通道注意力模块，包括如下步骤：

1)对细粒度数据集进行预处理，如图5所示。

2)构建特征提取网络Resnet-50提取输入图像特征，并且在网络结构中嵌入MECA模块，如图1所示。

3)MECA模块分为M1ECA模块和M2ECA模块两种类型，分别如图2， 3所示。

4)利用Luo等人提出的SEF方法进行进一步的增强，使细粒度的识别准确度进一步提高。

5)使用Grad-CAM方法进行检验，得到的热力图结果如图4所示。

6)在Resnet-50的基本网络结构下，将ECA注意力模块和MECA注意力模块进行对比，其结果如图6所示。

在Resnet-50和SEF方法的基本网络结构下，将MECA与其他几种同类别的注意力进行对比，其结果如图7所示。

本发明方法与目前先进方法识别准确率进行对比，如图8所示。

本发明由于采取以上方法，其具有以下优点：

1、使用MECA注意力模块对Resnet-50进行增强，一方面，通过引入特征金字塔结构，采用了1×1，2×2，3×3的输出大小进行全局平均池化其中1×1的尺度具有更强的正则化效果，3×3的尺度能够捕获更多的空间特征表示和结构信息，2×2的尺度旨在平衡结构正则化和结构信息。另一方面，MECA 模块避免了对通道进行降维，改进了SE模块在降维过程中参数量较大和引入过多不必要信息的负面影响。

2、利用Luo等人提出SEF对MECA模块进行进一步的增强，通过语义分组模块，可以增强同一预定义组中的特征通道间的相关性，并且消弱不同预定义组的特征通道间的相关性，并且不向主干网络模型中引入任何参数。