[发明专利]基于注意力机制的深度森林高光谱图像分类方法和系统

权利要求书

1.基于注意力机制的深度森林高光谱图像分类方法，其特征在于，包括以下步骤：

S1、将原始的高光谱图像数据集作为训练集，将所述训练集进行降维操作，生成低维数据集，在所述低维数据集中提取光谱向量数组；

S2、将所述光谱向量数组输入基于注意力机制的深度森林模型进行训练，生成训练好的基于注意力机制的深度森林模型；

S3、将待分类的高光谱图像数据集采用与步骤S1相同的方法得到光谱向量数组输入所述训练好的基于注意力机制的深度森林模型，生成所述原始的高光谱图像数据集对应的分类标签；

步骤S1具体为：将所述训练集中相关系数较大的高维特征变量重新组合，生成低维的线性无关变量，所述低维的线性无关变量组成的数组即为所述光谱向量数组；

步骤S2中所述基于注意力机制的深度森林模型分为注意力增强层和级联森林层；

所述注意力增强层的训练过程具体为：计算所述光谱向量数组中各向量的特征重要度，所述特征重要度为各向量在所述光谱向量数组中的贡献程度，将所述各向量的特征重要度组成的数组作为注意力向量数组，将所述注意力向量数组与所述光谱向量数组进行加权融合，生成特征向量数组；

所述级联森林层的训练过程具体为：

S21、将所述特征向量数组输入所述级联森林层的第i层森林，生成k个m维的第i层的类概率数组；

S22、提取所述特征向量数组中前50％重要性的特征向量生成n维的加权向量数组，将所述加权向量数组与所述第i层的类概率数组首尾相连，生成k个n+m维的第i+1层森林的输入向量数组，所述第i+1层森林的输入向量数组输入所述级联森林层的第i+1层森林，生成k个m维的第i+1层的类概率数组；所述i为正整数，从1开始逐渐增加；所述k为所述级联森林层的每层森林中的森林个数；

S23、若得到的类概率数组中的各个类概率增加幅度小于预设值，则表示生成了k个训练好的类概率数组，进入步骤S24，否则返回步骤S22；

S24、将所述k个训练好的类概率数组输入分类层森林，所述分类层森林将所述k个训练好的类概率数组分别进行平均计算，生成最终的预测结果数组，取所述最终的预测结果数组中的最大值，根据该最大值所属的森林以及k个森林与分类标签的对应关系确定输入的数据集对应的分类标签。

2.根据权利要求1所述的基于注意力机制的深度森林高光谱图像分类方法，其特征在于，所述级联森林层由多层森林级联组成，每层森林由随机森林和完全随机树森林组成；所述随机森林由普通随机树构成，所述完全随机树森林由完全随机树构成。

3.基于注意力机制的深度森林高光谱图像分类系统，其特征在于，包括以下模块：

降维模块，用于将原始的高光谱图像数据集作为训练集，将所述训练集进行降维操作，生成低维数据集，在所述低维数据集中提取光谱向量数组；

训练模块，用于将所述光谱向量数组输入基于注意力机制的深度森林模型进行训练，生成训练好的基于注意力机制的深度森林模型；

分类模块，用于将待分类的高光谱图像数据集采用与降维模块中相同的方法得到光谱向量数组输入所述训练好的基于注意力机制的深度森林模型，生成所述原始的高光谱图像数据集对应的分类标签；

降维模块的作用具体为：将所述训练集中相关系数较大的高维特征变量重新组合，生成低维的线性无关变量，所述低维的线性无关变量组成的数组即为所述光谱向量数组；

训练模块中所述基于注意力机制的深度森林模型分为注意力增强层和级联森林层；

所述注意力增强层的训练过程具体为：计算所述光谱向量数组中各向量的特征重要度，所述特征重要度为各向量在所述光谱向量数组中的贡献程度，将所述各向量的特征重要度组成的数组作为注意力向量数组，将所述注意力向量数组与所述光谱向量数组进行加权融合，生成特征向量数组；

所述级联森林层的训练过程具体为：

S21、将所述特征向量数组输入所述级联森林层的第i层森林，生成k个m维的第i层的类概率数组；

S22、提取所述特征向量数组中前50％重要性的特征向量生成n维的加权向量数组，将所述加权向量数组与所述第i层的类概率数组首尾相连，生成k个n+m维的第i+1层森林的输入向量数组，所述第i+1层森林的输入向量数组输入所述级联森林层的第i+1层森林，生成k个m维的第i+1层的类概率数组；所述i为正整数，从1开始逐渐增加；所述k为所述级联森林层的每层森林中的森林个数；

S23、若得到的类概率数组中的各个类概率增加幅度小于预设值，则表示生成了k个训练好的类概率数组，进入步骤S24，否则返回步骤S22；

S24、将所述k个训练好的类概率数组输入分类层森林，所述分类层森林将所述k个训练好的类概率数组分别进行平均计算，生成最终的预测结果数组，取所述最终的预测结果数组中的最大值，根据该最大值所属的森林以及k个森林与分类标签的对应关系确定输入的数据集对应的分类标签。