[发明专利]通过构建全局嵌入式注意力残差网络对图像分类的方法在审
申请号: | 202110487497.4 | 申请日: | 2021-04-30 |
公开(公告)号: | CN113111970A | 公开(公告)日: | 2021-07-13 |
发明(设计)人: | 裴炤;万志杨;张艳宁;马苗 | 申请(专利权)人: | 陕西师范大学 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 北京前审知识产权代理有限公司 11760 | 代理人: | 张静;李亮谊 |
地址: | 710000 陕西省*** | 国省代码: | 陕西;61 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 通过 构建 全局 嵌入式 注意力 网络 图像 分类 方法 | ||
本公开揭示了一种通过构建全局嵌入式注意力残差网络对图像分类的方法,包括:将待分类的图像数据进行预处理;构建含有全局嵌入式注意力模块的全局嵌入式注意力残差网络,所述全局嵌入式注意力残差网络包括1个输入层、1个卷积核大小为7×7的卷积层、1个最大池化层、全局嵌入式注意力模块、2个全连接层和1个输出层,其中,所述全局嵌入式注意力模块包括基于全局上下文的空间注意力子模块和基于坐标的通道注意力子模块;将预处理后的待分类图像数据输入全局嵌入式注意力残差网络进行分类。
技术领域
本公开涉及一种图像分类方法,具体涉及一种通过构建全局嵌入式注意力残差网络对图像分类的方法。
背景技术
图像分类是计算机视觉领域的一个重要任务。目前,许多学者均利用加入注意力机制的方法进行网络结构的改善,从而能够更好地进行图像分类。最为经典的挤压和激励网络一直被人认为是注意力机制的里程碑,该方法通过挤压和激励两步操作,它首先使用全局平均池化将全局特征挤压进通道特征中,接着使用一个简单的门机制并使用sigmoid函数激励,最后将对应通道乘积。该方法能在2D全局池的帮助下通过显示地建模通道间的相互依赖关系,自适应地重新校准通道式的特征响应,以相当低的计算成本提供了显著的性能提高。然而它只考虑了通道间信息的编码,而忽略了位置信息的重要性,而位置信息对于在计算机视觉任务中捕获对象结构是至关重要的。此外,后来的学者通过尝试将空间注意力信息与通道注意力信息相结合,但是仅仅利用局部空间的位置信息带来的收益并不高,因此我们需要在神经网络中加入全局位置信息的同时,保证通道的局部位置信息也能够被高效利用。
发明内容
针对现有技术中的不足,本公开的目的在于提供一种通过构建全局嵌入式注意力残差网络对图像分类的方法,通过利用全局位置信息并嵌入通道信息中,有效提取图像特征,从而提高图像的分类能力。
为实现上述目的,本公开提供以下技术方案:
一种通过构建全局嵌入式注意力残差网络对图像分类的方法,包括如下步骤:
S100:将待分类的图像数据进行预处理;
S200:构建含有全局嵌入式注意力模块的全局嵌入式注意力残差网络,所述全局嵌入式注意力残差网络包括1个输入层、1个卷积核大小为7×7的卷积层、1个最大池化层、全局嵌入式注意力模块、2个全连接层和1个输出层,其中,所述全局嵌入式注意力模块包括基于全局上下文的空间注意力子模块和基于坐标的通道注意力子模块;
S300:将预处理后的待分类图像数据输入全局嵌入式注意力残差网络进行分类。
优选的,在完成全局嵌入式注意力残差网络构建后,需要选取训练样本并进行预处理以对该网络进行网络训练,需要选取验证样本并进行预处理以对训练后的网络的参数进行调整,需要选取测试样本对训练后的网络进行性能测试。
优选的,步骤S200中,所述基于全局上下文的空间注意力子模块包括:
第一子单元,用于将预处理后的训练样本、验证样本和测试样本输入卷积层和池化层处理后进行全局平均池化操作,以获得包含全局信息的特征矩阵;
第二子单元,用于采用卷积核大小为1×1的卷积和reshape函数对包含全局信息的特征矩阵进行线性变换,以获得经过维度变换处理的特征矩阵;
第三子单元,用于使用softmax函数对经过维度变换处理的特征矩阵进行自适应选择,获得该特征矩阵上每个不同元素的对应权重,将每个不同元素的对应权重与包含全局信息的特征矩阵相乘,以获得包含全局上下文特征信息的特征矩阵;
第四子单元,用于对包含全局上下文特征信息的特征矩阵利用批归一化和ReLU激活函数进行非线性变换及利用1×1的卷积进行维度变换。
优选的,所述基于全局上下文的空间注意力子模块表示为:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于陕西师范大学,未经陕西师范大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110487497.4/2.html,转载请声明来源钻瓜专利网。