[发明专利]一种基于局部线性回归的流形学习泛化算法

说明书

技术领域

本发明属于高光谱图像数据降维技术领域，具体涉及一种流形学习的泛化算法。

背景技术

高光谱图像能够记录地物丰富的光谱信息，这有利于准确精细对地物进行分类识别。但是高光谱数据波段数变大必然会造成信息冗余和数据处理的困难，带来维数灾难，这种现象给高光谱数据处理带来了阻碍，因此消除高光谱数据的这种信息的冗余性成为了必须解决的问题。高光谱数据的这种冗余性主要是高光谱数据波段间的相关性造成的，降维是一种重要的预处理方法，利用低维数据来表达高维数据的特征，它能有效保留图像信息，减少信息冗余。常见的高光谱图像降维算法分为线性降维和非线性降维，尽管像PCA(Principal Component Analysis)和LDA(Linear Discriminant Analysis)这样的线性降维算法实现简单，但是因为高光谱图像具有非线性特性，因此流形学习算法可以更好地挖掘高光谱数据的非线性结构，提高数据分析能力。经典的流形学习算法有LE(Laplacian Egenmap)、LLE(Locally Linear Embedding)和LTSA(Local Tangent Space Alignment)算法，可用于高光谱图像的特征提取算法。但是经典非线性的流形学习算法大多无泛化能力，无法直接学习新的高光谱数据，必须和所有的旧数据一起学习才能够获得新的降维结果。

流形学习算法的泛化问题可以描述为：已知高光谱数据集X＝{x₁，x₂，...，x_N}∈R^D×N，N是样本集个数，D是样本集维数，x_j表示的第j个高光谱数据样本，还已知某一种流形学习算法对X降维之后获得的降维数据集Y＝{y₁，y₂，...，y_N}∈R^d×N，d是降维维数，y_j为x_j的降维结果，对于一个新的高光谱数据x_new∈R^D×1，求取x_new对应的降维结果y_new∈R^d×1。

为了使得流形学习具备泛化能力，目前已经有许学者做了许多尝试。其中将非线性学习算法进行线性化、将非线性学习算法进行核拓展等都是常用的思路。然而线性化会改变原流形学习算法的降维结果，而核拓展则需要为每个特定的流形学习算法构造核函数。

发明内容

本发明的目的在于提出一种适用于任何一种流形学习算法、能够保持原流形学习降维结果、基于局部线性回归的流形学习泛化方法，使得不具备泛化能力的流形学习算法如LTSA、LLE、LE等经典流形学习算法获得泛化能力，从而使得流形学习算法适用于高光谱图像的降维处理过程。

本发明的目的是通过以下技术方案实现的：

分布在高维流形上的数据在一个很小的局部区域可近似看作分布在一个低维超平面上，在这个邻域内，可假设高维数据和低维嵌入之间存在一个线性映射。因此，对于一个新的样本点，首先在原始数据空间中寻找它的邻域，然后在这个邻域中构建一个从高维到低维的线性映射，最后通过线性映射实现对新样本的泛化。

如图1所示，本发明提供的基于局部线性回归的流形学习泛化算法，其具体步骤如下：

步骤一、寻找领域：

对于一个新的数据样本x_new，在高光谱数据集X中找到x_new的k个最近样本点构成邻域数据集D是样本集维数，并获得在降维数据集Y中对应的降维邻域数据集d是降维维数，要求k≥d，R表示实数域。

计算x_new与X中第j个高光谱数据样本的x_j的距离B(j)：

B(j)＝||x_j-x_new||₂ j＝1，2，...，N。

对距离向量B中的元素从小到大排序，取前k个最小的元素对应的数据样本组成并在Y_old中找到对应的

步骤二、计算投影矩阵：

1)构建矩阵C：

其中，H_k为k维中心化算子，e_k＝[1，1，...1]^T∈R^k×1是长度为k的元素全为“1”的列向量，I_k为k×k的单位矩阵。