[发明专利]自适应无参数的特征提取方法

说明书

技术领域

本发明属于目标识别领域的特征提取方法，具体是一种自适应无参数的特征提取方法。

背景技术

随着科学技术的发展，人类获得的数据越来越多，而且这些数据往往具有很高的维数，对于典型的图像数据来说，其维数就是图像的像素数，而图像的像素数一般都很高。如何从这些高维的数据提取中有用的数据用来进行后续的处理是个巨大的问题。特征提取技术是解决这个问题的一个重要的方法。对于许多问题例如数据可视化、计算机视觉和模式识别特征提取都是一个基础性的问题。对于人脸识别来说，特征提取是完成人脸识别的关键。

在过去几十年中，人们提出了很多关于特征提取的方法，这些方法中有监督学习的方法也有非监督学习的方法，有线性的方法也有非线性的方法。在这些方法中，文献二(I.Joliffe,Principal Component Analysis.Springer-Verlag,1986)中提出了主成分分析(PCA)，文献三(K.Fukunnaga,Introduction to Statistical PatternRecognition,second ed.Academic Press,1991)提出了线性判别式分析(LDA)是两种使用最多的线性特征提取方法。PCA将原始的高维数据映射到由全部原始数据协方差矩阵的最大特征值对应的特征向量所张成一个低维子空间中。PCA能够在最小均方意义下，寻找最能代表原始数据的投影方法。另外，由于没用利用到类别信息，所以PCA是一种完全的非监督学习方法。

与PCA不同，LDA是一种有监督的学习方法，最早可以追溯到1936年Fisher发表的论文，其本质思想是选择使Fisher准则函数达到极值的向量作为最佳投影方向。从而使得样本在该方向上投影后，能够同时达到类间离散度最大和类内离散度最小。

然而，PCA和LDA都是从全局的欧式结构进行考虑的而不是从流形结构上进行考虑。而最近的研究表明人脸图像有可能是驻留在一个非线性的流形之上，同时不同的人脸图像会处在不同的流形之上。为此人们提出了很多流形学习算法来寻找嵌入在原始高维数据中的本质低维流形，在这些算法中包括等距特征映射算法(ISOMAP)(文献4，J.B.Tenenbaum,V.de.Silva,J.C.Langford,A global geometric framework fornonlinear dimensionality reduction,Science 290(2000)2319–2323.)，局部线性嵌入(LLE)(文献5，S.T.Roweis,L.K.Saul,Nonlinear dimension reduction bylocally linear embedding,Science 290(2000)2323–2326.)和拉普拉斯特征映射(LE)(文献6，M.Belkin,P.Niyogi,Laplacian eigenmaps for dimensionalityreduction and data representation,Neural Computation 15(6)(2003)1373–1396.)等。实验表明这些算法对于模拟数据和真实的数据，比如人脸图像能够找到这些数据的有意义的低维嵌入。He等人提出了局部保留映射(LPP)(文献7，X.He,S.Yan,Y.Hu,P.Niyogi,H.Zhang,Face recognition using laplacian faces,IEEE Transactionson Pattern Ana1ysis and Machine Intel 1igence 27(3)(2005)328–340.)，LPP的目标函数是最小化映射后的数据的局部散布矩阵。与其他的流形学习算法相比较，LPP算法拥有明显的优势比如能够得到更加明显的映射，更加易于计算等。但是这些算法都属于非监督学习算法，无法利用到数据的类别信息而且在计算的过程中需要认为的设定一下参数，而这些参数对于最终结果的影响很大。但是如何选取这些参数，却没有统一的标准。