[发明专利]一种基于深度Transformer的高光谱影像分类方法

权利要求书

1.一种基于深度Transformer的高光谱影像分类方法，其特征在于，包括如下步骤：

1)获取待分类的高光谱影像；

2)将待分类的高光谱影像分别输入至训练好的深度空-谱Transformer模型中，以对高光谱影像进行分类；

其中，所述训练好的深度空-谱Transformer模型利用已标记的高光谱影像和对应的标记结果进行训练得到；且所述深度空-谱Transformer模型包括光谱维度注意力模型、空间维度注意力模型和分类器；

所述光谱维度注意力模型包括顺次连接的光谱输入层、光谱卷积层、光谱深度学习层和光谱输出层；所述光谱输入层用于将待分类的高光谱影像沿着光谱维度划分为b个光谱图像块，b为波段数；所述光谱卷积层用于将所述光谱图像块转换成光谱特征向量；所述光谱深度学习层包括光谱位置编码层和顺次连接的至少两层光谱Transformer层，所述光谱位置编码层用于对所述光谱特征向量进行位置编码，并与所述光谱特征向量相加，相加的结果作为第一层光谱Transformer层的输入，其余的光谱Transformer层的输入均为前一层光谱Transformer层的输出；所述光谱输出层用于对最后一层光谱Transformer层的输出进行处理得到光谱维度输出特征；

所述空间维度注意力模型包括顺次连接的空间输入层、空间卷积层、空间深度学习层和空间输出层；所述空间输入层用于将待分类的高光谱影像进行降维处理并沿着空间维度划分为k个空间图像块；所述空间卷积层用于将所述空间图像块转换成空间特征向量；所述空间深度学习层包括空间位置编码层和顺次连接的至少两层空间Transformer层，所述空间位置编码层用于对所述空间特征向量进行位置编码，并与所述空间特征向量相加，相加的结果作为第一层空间Transformer层的输入，其余的空间Transformer层的输入均为前一层空间Transformer层的输出；所述空间输出层用于对最后一层空间Transformer层的输出进行处理得到空间维度输出特征；

所述分类器用于根据拼接在一起的所述光谱维度输出特征和所述空间维度输出特征进行高光谱影像分类。

2.根据权利要求1所述的基于深度Transformer的高光谱影像分类方法，其特征在于，所述光谱Transformer层和空间Transformer层均为六层。

3.根据权利要求1所述的基于深度Transformer的高光谱影像分类方法，其特征在于，所述光谱Transformer层和空间Transformer层均包括自注意力层和前馈神经网络层；所述前馈神经网络层采用两层的多层感知机；所述自注意力层所采用的自注意力机制为：

其中，Q、K、V分别为查询矩阵、键矩阵和值矩阵，d_k是输入的维度。

4.根据权利要求1所述的基于深度Transformer的高光谱影像分类方法，其特征在于，所述光谱输出层和空间输出层均为多层感知机。

5.根据权利要求1所述的基于深度Transformer的高光谱影像分类方法，其特征在于，所述空间输入层用于采用主成分分析法将待分类的高光谱影像进行降维处理。

6.根据权利要求5所述的基于深度Transformer的高光谱影像分类方法，其特征在于，采用主成分分析法时，提取前3个主成分波段。

7.根据权利要求1所述的基于深度Transformer的高光谱影像分类方法，其特征在于，所述光谱位置编码层和所述空间位置编码层采用如下公式以相应分别对光谱特征向量和空间特征向量进行位置编码：

其中，PE表示光谱位置编码层或者空间位置编码层的输出，pos表示特征向量在整个序列中的位置，d_model表示特征向量的维度，i表示特征向量的位置。

8.根据权利要求1～7任一项所述的基于深度Transformer的高光谱影像分类方法，其特征在于，所述光谱卷积层和所述空间卷积层均为二维卷积层。