[发明专利]一种基于全局注意力残差网络的高光谱图像分类方法有效
申请号: | 202110376903.X | 申请日: | 2021-04-08 |
公开(公告)号: | CN112836773B | 公开(公告)日: | 2022-09-02 |
发明(设计)人: | 高红民;张亦严;陈忠昊;曹雪莹;李臣明 | 申请(专利权)人: | 河海大学 |
主分类号: | G06V10/764 | 分类号: | G06V10/764;G06V10/80;G06V10/82;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 南京苏高专利商标事务所(普通合伙) 32204 | 代理人: | 向文 |
地址: | 210024 *** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 全局 注意力 网络 光谱 图像 分类 方法 | ||
1.一种基于全局注意力残差网络的高光谱图像分类方法,其特征在于,包括如下步骤:
S1:构建整体网络,包括多尺度特征提取网络、全局注意力模块和改进的残差网络模块,所述全局注意力模块包括空间注意力和光谱注意力模块;
S2:利用多尺度特征提取网络通过不同大小卷积核结合对经过初始化和预处理后的高光谱数据进行多尺度特征提取,提取到高光谱图像层次化的特征;
S3:全局注意力模块通过空间注意力模块和光谱注意力模块的结合构建全局像素点的空间和光谱依赖关系;
S4:将改进的残差网络模块和全局注意力模块进行融合,成为一个新型的全局注意力残差网络;
S5:通过全局注意力残差网络深化网络层数,细化特征提取,将输出结果经过全局池化送入分类器中进行最终分类,并输出结果;
所述步骤S3中空间注意力模块的运行机制包括挤压和激活的操作,具体为:
首先原始的高光谱立方块经过卷积、激活和批标准化增加特征图的数量,通过缩小卷积核的尺寸,能够提取到高光谱图像更具代表性的特征,完成挤压操作;接着再次进行卷积,激活函数换成了Sigmoid,完成激活操作;将经过卷积后的特征图q和前序原始块进行像素级别点乘操作,将已经获得的权重值分配到所有像素各自空间位置中;最后一次的卷积运算和权重值获取的公式:
其中,其中W为卷积核,并且卷积偏置值b初始化为0,不参与卷积运算,Fsq表示挤压的过程,Fex代表激活的过程,U为原始特征图,q代表了特征图U沿着光谱通道在每个空间位置上线性激活组合,σ为Sigmoid激活函数,为像素级对应点乘;
所述步骤S3中光谱注意力模块的运行机制为:光谱注意力模块通过原始数据与卷积后的特征的矩阵相乘获取全局信息,并且重新分配了像素点之间的权重值,最后通过channel-wise的依赖关系转换以及特征融合将权重值分配到各个像素点上;
所述步骤S3中光谱注意力模块的运行过程为:
首先通过卷积将输入的HIS Cube送入卷积神经网络中,将通道数从C压缩为1,再通过Reshape将空间维度上高和宽融合后与光谱维度互换完成转置操作,即将特征图尺寸从(h,w,1)变为(1,h*w);接下来,将原始的HIS Cube的高和宽相结合,即特征图尺寸从(h,w,c)变为(h*w,c),卷积后的特征图形状为(1,h*w)经过Softmax的激活操作后再与变换后HISCube形状为(h*w,c)进行矩阵乘法操作,得到形状为(1,1,c)的特征图,至此,空间维度h和c都被压缩为1,只剩下光谱维度c;
从全连接的C*C到卷积网络的2*C*C/r,r为比例系数,C/r表示瓶颈转换的隐藏特征维度。
2.根据权利要求1所述的一种基于全局注意力残差网络的高光谱图像分类方法,其特征在于,所述步骤S2中多尺度特征提取的过程为:
A1:进行多尺度特征提取,使用不同尺寸的卷积核对高光谱图像进行卷积运算;
A2:将卷积过后的特征图进行Concatnate拼接操作。
3.根据权利要求1所述的一种基于全局注意力残差网络的高光谱图像分类方法,其特征在于,所述步骤S3中空间注意力模块和光谱注意力模块结合后得到空-谱联合全局注意力网络机制,公式如下:
USpe_Spa=λ*USpe+(1-λ)*USpa
其中,λ为可训练参数。
4.根据权利要求1所述的一种基于全局注意力残差网络的高光谱图像分类方法,其特征在于,所述步骤S4中改进的残差网络模块分为起始残差网络、中间残差网络和结尾残差网络。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于河海大学,未经河海大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110376903.X/1.html,转载请声明来源钻瓜专利网。