[发明专利]一种基于稀疏规则化的判别投影方法以及图像识别装置

说明书

一种基于稀疏规则化的判别投影方法，其特征为：包括如下步骤，步骤1)构建级联字典和学习稀疏表征结构；步骤2)保留稀疏表征结构；步骤3)学习数据的局部和非局部结构；步骤4)稀疏规则化辨别投影。本发明充分利用级联字典学习数据的稀疏表示，避免了求解L1范数问题，大大减少了计算复杂度；通过非局部最大化和局部最小化充分考虑了数据的几何拓扑结构。

技术领域

本发明公开了一种特征提取方法—稀疏规则化判别投影，其属于生物特征提取和模式识别技术领域，涉及数据稀疏表示的学习、局部和非局部结构的构建、目标函数的优化，可用于图像识别、数据挖掘、数据聚类。

背景技术

目前大多数非线性特征提取方法面临着人为定义近邻图的问题，同时邻域参数的选择也直接关系着数据特征提取的质量。到现在为止，一直没有一个简单而有效的标准来确定算法的邻域参数。稀疏表示的出现，很好地避免了领域参数的选择问题，它可以自适应地获取数据的近邻关系。近年来一些学者把稀疏表示引入模式识别领域，用于处理特征提取或特征选择、分类、聚类、目标检测和信息融合等问题。

稀疏表示和压缩感知是由Donoho等人提出的一种新的信号表示和获取框架，它激起了信息科学领域的广泛研究热情。稀疏表示将一个信号表示为字典中基本信号的稀疏线性组合，该稀疏线性组合中的系数向量被称为稀疏系数向量。假设原始高维空间中的稀疏信号通过观测矩阵对其做观测得到低维空间中的观测信号其中l＜＜m。统计学中，著名的Lasso(Least absolute shrinkage and selection operator)算法也是建立在稀疏表示的思想上，通过约束回归系数向量的L1范数小于给定常数，使得表示误差的平方和最小，以达到获取数据稀疏模型的目的。

鉴于稀疏学习对问题的高精准建模能力，其已经发展成为一种非常有力的图像处理和模式识别工具。以稀疏学习为思想，Aharon等人提出了一种新的稀疏表示方法K-SVD，它在(1)基于当前字典对样本进行稀疏编码和(2)更新字典中的原子以更好拟合样本数据两个步骤之间反复迭代直到收敛。Elad等人将 K-SVD推广到图像去噪问题中，并得到了很好的去燥效果。Mairal等人将非局部的思想和稀疏学习相结合提出了一种非局部稀疏模型，并将其成功应用于图像去噪等问题。Feng等人提出了一种将特征提取的投影矩阵和稀疏表示中的判别字典进行联合学习的方法，并通过人脸识别实验证明了该方法的有效性。

PCA作为最典型的维数约简方法，为了保证其投影向量的稀疏性，学者们提出了稀疏主成分分析(Sparse PCA,SPCA)和非负稀疏主成分分析(Nonnegative SPCA,NSPCA)。为了保持稀疏重构权重，Cheng等人提出了稀疏近邻保持嵌入方法(Sparse neighborhoodpreserving projection,SNPE)。Qiao等人将稀疏表示与流形学习相结合，提出了一种基于稀疏学习的无监督维数特征提取方法——稀疏保持投影(Sparsity PreservingProjections,SPP)，SPP通过一个基于L1正则化的目标函数获取数据的稀疏重构关系，并最终以保持此稀疏重构关系来来达到维数约简的目的。一方面，SPP具有自动捕获数据点邻域关系的优点；另一方面，即使在没有样本标签信息的情况下，基于SPP所获得的投影仍然包含一定程度的判别信息。SPP作为非常典型的稀疏学习算法，缺点也是明显的。

参见附图1所示。稀疏保持投影(SPP)旨在通过保持数据的稀疏表示结构来实现维数约简的目的，其具体流程图如图1所示。对于一个给定的训练样本集X＝ {x₁,x₂,…,x_N}∈R^D×N，其中D表示特征维数，N表示样本数。SPP首先通过求解下面的L1范数最小化问题来学习每一个样本x_i的稀疏系数向量s_i:

min||s_i||₁