[发明专利]基于注意力机制的深度森林高光谱图像分类方法和系统

说明书

本发明涉及基于注意力机制的深度森林高光谱图像分类方法和系统，包括以下步骤：将原始的高光谱图像数据集作为训练集，将训练集进行降维操作，生成低维数据集，在低维数据集中提取光谱向量数组；将光谱向量数组输入基于注意力机制的深度森林模型进行训练，生成训练好的基于注意力机制的深度森林模型；将待分类原始的高光谱图像数据集经降维后输入训练好的基于注意力机制的深度森林模型，生成分类标签。本发明提供的基于注意力机制的深度森林高光谱图像分类方法和系统，将注意力机制结合到深度森林架构中并用于高光谱图像分类；在高光谱图像分类任务中，通过对中间特征进行注意力增强操作，实现特征的自适应细化，提高分类性能。

技术领域

本发明涉及图像分类领域，尤其涉及基于注意力机制的深度森林高光谱图像分类方法和系统。

背景技术

图像分类是一种模式识别领域的研究任务，一般的图像分类是对一幅图像进行特征提取，之后匹配最相近的类别作为输出。高光谱图像分类与普通的RGB三通道图像分类不同，高光谱图像分类是对单个像元进行类别划分，其类别归属于每一个像素点。高光谱图像分类除了数据格式具有特殊性以外，光谱维度和空间维度也具有其自身的特点，光谱特征是一维的具有连续属性的向量，空间场景是内容复杂且包含所有待分类样本的空间信息。基于注意力机制的深度森林高光谱图像分类方法将注意力机制结合到深度森林架构中，通过对中间特征进行注意力增强操作，实现特征的自适应细化，提高分类性能。

随着深度学习的火热发展，以深度神经网络为代表的深度学习算法在高光谱图像分类任务中实现了较好的应用，大量的深度学习框架在高光谱图像分类中实现了精度的跳跃式提升。然而，由于高光谱数据的特殊性和复杂性，目前基于深度神经网络的高光谱图像分类方法存在着对训练样本数量要求高、调参困难、模型过拟合等难点。因此，高光谱图像分类问题需从数据角度出发，设计具有良好性能的特征提取和分类框架，在尽可能降低代表及样本的需求同时，提高分类性能。

深度森林能够较好地弥补上述缺陷，从深度森林提出至今，许多将深度森林或深度森林改进算法应用到高光谱图像分类中的应用都实现了较好的效果。然而，深度森林算法对于更深层特征的提取能力相对弱了一些，尤其是针对高维的高光谱数据，如何对光谱信息进行特征的强化与细化，是深度森林分类框架的一个改进方向。

注意力机制通过定位到感兴趣信息区域，增强该部分特征并抑制无用信息，将注意力机制引入深度森林算法中，能够结合深度森林算法的优点，并在此基础上实现重要信息聚焦以及特征自适应细化的目的。本发明在深度森林的算法框架中，利用一层森林计算特征重要性，并将所得到的特征重要性向量进行融合，获得注意力向量数组。通过使用注意力向量数组对中间特征进行注意力增强。

发明内容

本发明提供了基于注意力机制的深度森林高光谱图像分类方法和系统，解决了现有技术中深度学习模型存在对样本数量要求高、模型调参困难以及训练代价高等问题。

本发明为解决其技术问题，提供了基于注意力机制的深度森林高光谱图像分类方法和系统，包括以下步骤：

S1、将原始的高光谱图像数据集作为训练集，将所述训练集进行降维操作，生成低维数据集，在所述低维数据集中提取光谱向量数组；

S2、将所述光谱向量数组输入基于注意力机制的深度森林模型进行训练，生成训练好的基于注意力机制的深度森林模型；

S3、将待分类的高光谱图像数据集采用与步骤S1相同的方法得到光谱向量数组输入所述训练好的基于注意力机制的深度森林模型，生成所述原始的高光谱图像数据集对应的分类标签。

进一步的，本发明的基于注意力机制的深度森林高光谱图像分类方法，步骤S1具体为：将所述训练集中相关系数较大的高维特征变量重新组合，生成低维的线性无关变量，所述低维的线性无关变量组成的数组即为所述光谱向量数组。

进一步的，本发明的基于注意力机制的深度森林高光谱图像分类方法，步骤S2中所述基于注意力机制的深度森林模型分为注意力增强层和级联森林层。