[发明专利]一种基于注意力机制的无人机高光谱农作物快速分类方法

权利要求书

1.一种基于注意力机制的无人机高光谱农作物快速分类方法，其特征在于，包括如下步骤：

步骤1，对输入影像进行镜像填充；

步骤2，对镜像填充影像进行通道降维；

步骤3，构建用于农作物分类的网络模型，包括以下子步骤；

步骤3.1，使用光谱注意力模块提取通道间的上下文信息，获得低层细节特征；

所述步骤3.1的实现方式如下，

步骤3.1.1，设置步骤2中通道降维后得到特征图F，将特征图F输入第一个光谱注意力模块中，提取通道维上下文信息特征，光谱注意力模输出特征图Fspectral₁，公式如下：

Fspectral₁＝Conv3×3_stride＝2(σ(MLP(AvgPool(F))+MLP(MaxPool(F))×F))

上式中，F表示输入的特征图，Fspectral为光谱注意力模块输出的特征图；σ(·)表示sigmoid激活函数，输出每个通道的重要性的权重；MLP(·)是一个2层的神经网络，并且上式中2个MLP共享权重；AvgPool(·)与MaxPool(·)分别表示在空间维进行平均池化和最大池化操作，其输出是一维向量；Conv3×3_stride＝2是一个步长为2的3×3的卷积，其目的是增大卷积感受野，便于提取高层语义特征提取；

步骤3.1.2，将步骤3.1.1输出的特征图Fspectral₁输入到第二个光谱注意力模块中，第二个光谱注意力模块特征提取方式与步骤3.1.1相同；通过k个串联的光谱注意力模块依次输出Fspectral₁,Fspectral₂,…,Fspectral_k；

步骤3.2，使用尺度注意力模块提取多尺度上下文信息，获得高级语义特征；

步骤3.2的实现方式如下，

尺度注意力模块用于实现自适应的选择多尺度的上下文信息，其输入为最后一个光谱注意力模块输出的特征图Fspectral_k，其具体包括5部分；

步骤3.2.1，使用四个不同空洞率r₁,r₂,r₃,r₄的3×3卷积算子对输入特征图Fspectral_k进行特征不同尺度的上下文信息感知，分别输出四个不同尺度上下文特征图Fscale_r1,其中，r₁,r₂,r₃,r₄根据地物真实分布确定不同的值；

步骤3.2.2，将3.2.1输出的不同尺度的上下文特征图进行逐像素加和，输出多尺度特征图Fscale_sum，公式如下：

步骤3.2.3，将3.2.2输出的聚合特征Fscale_sum进行空间全局池化来感知全局信息，生成通道维的统计信息，随后连接一个全连接层自适应的选择上下文特征，公式如下：

F_cs＝FC(AvgPool(Fscale_sum))

上式中，AvgPool(·)为全局池化，FC表示全连接层，采用ReLU激活函数；

步骤3.2.4，通过Softmax应用在步骤3.2.3输出的F_cs通道维上计算不同尺度上下文信息的权重，具体

其中a_r1,a_r2,a_r3,a_r4∈R^C×1分别是多尺度上下文特征Fscale_r1,的权重，A_r1,A_r2,A_r3,A_r4∈R^C×d是维度转换矩阵，其中C是Fscale_sum通道维度，d是F_cs的通道维度；由上式可以得出，对于任意一个通道i的权重，具有如下关系：

a_r1[i]+a_r2[i]+a_r3[i]+a_r4[i]＝1

步骤3.2.5，将3.2.4计算的不同尺度的特征权重a_r1,a_r2,a_r3,a_r4分别对特征图Fscale_r1,进行加权，然后对加权后的特征进行相加聚合，进而实现多尺度信息的自适应选择，公式表示如下：

Fscale[i]＝a_r1[i]·Fscale_r1+a_r2[i]·Fscale_r2+a_r3[i]·Fscale_r3+a_r4[i]·Fscale_r4；

步骤3.3，使用空间注意力模块中融合低层细节特征和高级语义特征；

步骤3.3的实现方式如下，

步骤3.3.1，将低层细节特征Fspectral_k与高级语义特征Fscale级联后输入到空间注意力模块中，实现对不同类别的地物具有不同的注意力权重，进一步在保持细节的同时增加类别之间的区分性，空间注意力模块公式如下：

F_connect＝[Fspectral_k,Fscale]

上式中，表示卷积核为3×3、扩张率为3的空洞卷积；AvgPool_channel(F_connect)和MaxPool_channel(F_connect)表示在通道维进行平均池化和最大池化，其输出的特征图是1个通道的特征图；[·]表示在通道维连接2个特征图的操作；σ(·)表示sigmoid激活函数，输出空间像素的每个权重；

步骤3.3.2，对于输出的空间注意力融合特征Fspatial_k，通过一个3×3的卷积进行特征细化，然后使用2倍双线性插值进行上采样，公式如下：

Fspatial_up_k＝F_interpolate(Conv_3×3(Fspatial_k))

上式中F_interpolate表示2倍上采样的双线性插值；

步骤3.3.3，对Fspatial_up_k和Fspectral_k-1经过步骤3.3.1和3.3.2生成Fspatial_up_k-1，依次经过k个空间注意力模块，最终对Fspatial_up₂和Fspectral₁经过步骤3.3.1和3.3.2，生成最终的特征图

步骤3.4，将空间注意力模块最终输出的特征图输入边界约束的损失函数中，输出loss值；

步骤3.5，反向传播loss值更新网络模型参数；

步骤4，将待分类的双高影像输入到网络模型，输出预测分类结果，实现农作物的精细分类识别。