[发明专利]基于轻量化网络和半监督聚类的高光谱小样本分类方法

摘要

本发明涉及一种基于轻量化网络和半监督聚类的高光谱小样本分类方法，通过使用Point‑wise卷积核，Depth‑wise卷积核和双loss构建轻量化网络模型，Point‑wise卷积核和Depth‑wise卷积核能够极大减少参数数量，降低网络训练过程中对训练样本的需求；双loss策略可以将深度特征空间更加可分，更利于在深度特征空间进行分类和聚类。此外，半监督近似秩序聚类算法能够选出更多有自信的伪标签，为网络训练效果的提升提供了更有利的条件。本发明实现了小样本条件下，高光谱图像深度特征和标签数据的自主提取，高精度的分类。

主权项

1.一种基于轻量化网络和半监督聚类的高光谱小样本分类方法，其特征在于步骤如下：步骤1：数据预处理：对待处理的高光谱图像数据进行最大最小归一化，归一化公式如下：其中，x_ijs表示高光谱图像中的一个像元，i、j分别表示该像元位于高光谱图像中的坐标位置，s表示高光谱图像的谱段，为归一化后的一个像元，x_··smax、x_··smin分别表示三维高光谱图像在s谱段的最大值和最小值；步骤2：数据分割：统计待处理的高光谱图像，将数据分为三部分，有标签训练样本X^L，无标签样本X^u，测试样本X^T；步骤3：构建轻量化网络模型：第一层为3D卷积层，卷积核尺寸为3*3*8，宽度为20，然后进行Batch Normalization和ReLu操作；第二层为Max pooling层，卷积核尺寸为3*3*2，宽度为20；第三层为Point‑wise卷积，宽度为80；然后为Depth‑wise卷积，卷积核尺寸为3*3*3，宽度为80；最后为Point‑wise卷积，宽度为20；第四层为Point‑wise卷积，宽度为160；然后为Depth‑wise卷积，卷积核尺寸为3*3*3，宽度为160；最后为Point‑wise卷积，宽度为40；第五层与第四层设置相同；第六层为三维全局池化层；第七层为全连接层；步骤4：预训练网络模型：将有标签训练样本X^L批量的输入到构建好的轻量化深度网络中，以标注的类别为指导信号，利用梯度下降算法对网络参数进行训练，直至网络收敛；训练过程中，每次随机不重复的从训练集里抽取一些样本为一批训练数据，将该数据输入到网络，抽取特征并计算预测结果，预测结果与实际结果之间的损失函数为双loss，表示为L_dual，由softmax loss L_cls和center loss L_dis组成，公式如下：L_dual＝L_cls+λL_dis  (2)计算网络权值的偏导数，并利用梯度下降算法，更新网络参数；训练过程遍历整个训练集一次为一轮训练；步骤5：样本特征提取和分类：将预训练好的轻量化网络模型作为训练样本集的特征提取器，可以得到训练样本集的深度特征表示表示为X^L,F，X^u,F，并且可以得到无标签样本表示为X^u的初选标签表示为步骤6：选择最自信样本及其对应的伪标签：在训练样本集的深度特征的基础上，进行半监督近似秩序聚类，得到多个聚类簇，每个簇内的标签由簇内有标签样本的标签多数投票得出，将无标签样本及其初选标签表示为和无标签样本的聚类结果表示为进行比对，选出最自信样本及其对应的伪标签；步骤7：微调网络：利用有标签训练样本及其标签表示为和伪标签样本及其标签表示为进行微调轻量化网络；步骤8：迭代步骤5～7，直到达到最大迭代次数t；步骤9：基于最终训练好的轻量化网络模型，对高光谱图像中所有像素进行类别预测，然后将预测的类别放到对应的位置，得到预测结果图。