[发明专利]通过构建全局嵌入式注意力残差网络对图像分类的方法

权利要求书

1.一种通过构建全局嵌入式注意力残差网络对图像分类的方法，包括如下步骤：

S100：将待分类的图像数据进行预处理；

S200：构建含有全局嵌入式注意力模块的全局嵌入式注意力残差网络，所述全局嵌入式注意力残差网络包括1个输入层、1个卷积核大小为7×7的卷积层、1个最大池化层、全局嵌入式注意力模块、2个全连接层和1个输出层，其中，所述全局嵌入式注意力模块包括基于全局上下文的空间注意力子模块和基于坐标的通道注意力子模块；

S300：将预处理后的待分类图像数据输入全局嵌入式注意力残差网络进行分类。

2.根据权利要求1所述的方法，其中，优选的，在完成全局嵌入式注意力残差网络构建后，需要选取训练样本并进行预处理以对该网络进行网络训练，需要选取验证样本并进行预处理以对训练后的网络的参数进行调整，需要选取测试样本对训练后的网络进行性能测试。

3.根据权利要求2所述的方法，其中，步骤S200中，所述基于全局上下文的空间注意力子模块包括：

第一子单元，用于将预处理后的训练样本、验证样本和测试样本输入卷积层和池化层处理后进行全局平均池化操作，以获得包含全局信息的特征矩阵；

第二子单元，通过采用卷积核大小为1×1的卷积和reshape函数对包含全局信息的特征矩阵进行线性变换，以获得经过维度变换处理的特征矩阵；

第三子单元，通过使用softmax函数对经过维度变换处理的特征矩阵进行自适应选择，获得该特征矩阵上每个不同元素的对应权重，将每个不同元素的对应权重与包含全局信息的特征矩阵相乘，以获得包含全局上下文特征信息的特征矩阵；

第四子单元，用于对包含全局上下文特征信息的特征矩阵利用批归一化和ReLU激活函数进行非线性变换及利用1×1的卷积进行维度变换。

4.根据权利要求3所述的方法，其中，所述基于全局上下文的空间注意力子模块表示为：

其中，x表示为全局平均池化的输出，y表示全局上下文特征的输出，H和W分别表示输入图像的高度和宽度，X表示输入图像，K表示1×1卷积，ReLU表示ReLU激活函数，BN表示批归一化函数，N表示特征矩阵中元素的数量，e表示自然对数函数的底数，i、j、m分别表示特征矩阵中所有元素可能的位置，x_j、x_m分别表示特征矩阵中元素信息的值，t表示x矩阵的权重，tx_j和tx_m表示经过全局平均池化操作后的特征矩阵进行计算处理得到的输出值。

5.根据权利要求3所述的方法，其中，步骤S200中，所述基于坐标的通道注意力子模块包括：

第五子单元，用于对完成非线性变换及维度变换后的包含全局上下文特征信息的特征矩阵分别沿W’和H’方向采用平均池化进行分解，获得沿W’方向的一维特征矩阵和沿H’方向的一维特征矩阵，其中，沿W’方向的一维特征矩阵包含通道的局部位置信息，沿H’方向的一维特征矩阵包含长期依赖信息；

第六子单元，用于将沿W’方向的一维特征矩阵和沿H’方向的一维特征矩阵进行级联并用1×1的卷积进行特征变换，获得经过维度变换的特征矩阵；

第七子单元，通过利用softmax函数对经过维度变换的特征矩阵进行权重分配获得具有不同权重的特征矩阵，对具有不同权重的特征矩阵分别利用1×1的卷积进行特征变换，获得全局嵌入式注意力模块的输出。

6.根据权利要求5所述的方法，其中，对完成非线性变换及维度变换后的包含全局上下文特征信息的特征矩阵分别沿W’和H’方向采用平均池化进行分解，获得的沿W’方向的一维特征矩阵和沿H’方向的一维特征矩阵分别表示为：

其中，H’和W’表示全局上下文的空间注意力子模块输出图像的高度和宽度，Z_H和Z_W分别表示沿H’方向和沿着W’方向的一维特征矩阵，i和j分别表示第i行的H’和第j行的W’。