[发明专利]基于局部线性回归的半监督图像聚类子空间学习算法

说明书

技术领域

本发明属于半监督图像聚类子空间学习算法技术领域。特别是涉及一种基于局部线性回归的半监督图像聚类子空间学习算法。

背景技术

随着数字相机的普及和信息技术的发展，出现了越来越多的大规模的图像数据库，其中相当比例的图像是未标注、未分类的。一图胜千言，图像数据所表达的语义信息较为丰富，因此，人工标注和分类工作不仅费时费力、成本较高，而且难以做到标准统一和结果客观。这就使得对图像数据库的高效管理和有效利用十分重要且困难重重。

图像聚类算法可从底层特征中挖掘出潜在的高层语义关系，从而自动、高效地对图像数据集进行聚类是实现图像数据库有效管理的重要途径。同时，图像数据具有颜色、纹理、形状等多种底层视觉特征，而底层特征和高层语义之间的语义鸿沟问题，又使得对图像数据聚类的研究极具挑战性。

近年来，大量研究探讨了如何在图像聚类过程中缩小语义鸿沟，提出了子空间学习、谱分析方法、流形学习、张量模型等诸多较为有效的方法。这些方法通过机器学习、统计分析等相关理论和原理，对训练样本进行学习，从高维特征中挖掘出图像语义的有效表达，以提高图像聚类的效率。根据训练过程中对标记样本和未标记样本的使用，上述方法可归纳为监督式、无监督式和半监督式学习三种类型。

监督式学习要求所有的训练数据都是已标记样本，如：Fisher人脸方法在线性鉴别分析(Linear Discriminant Analysis,LDA)的基础上，对标记样本进行学习得到Fisher人脸子空间，并用于人脸图像的聚类，其结果超越了传统的“特征人脸”方法。

监督式学习方法完全依赖于标记样本，且需要有充足的标记样本才能取得较好的学习效果。而目前庞大的图像数据库中大多是未标记的数据，获得大量标记样本较为困难。因此，无监督学习被广泛使用，如：主成分分析(Principal Component Analysis)方法、局部保持映射(Locality Preserving Projection)和局部线性嵌入(Locally Linear Embedding)等方法。

然而，无监督学习完全以未标记样本为学习对象，在准确率方面难以与监督式学习媲美，但监督式学习要取得理想的效果，又需要有充足的标记样本。因此，半监督学习迅速成为机器学习领域的研究热点，例如：半监督鉴别分析算法(Semi-supervised Discriminant Analysis,SDA)利用标记样本和未标记样本，计算最优离散度的聚类子空间，取得了较好的学习性能。

现有研究大都或多或少地存在一些缺陷和不足，尤其体现在如何挖掘训练数据集的几何近邻关系，分析类内和类间离散度，求解聚类子空间的最优解，从而取得较好的聚类性能。

发明内容

本发明旨在克服现有技术缺陷，目的在于提供一种基于局部线性回归的半监督图像聚类子空间学习算法，该方法在满足聚类约束条件的情况下，挖掘图像训练数据集的局部近邻关系，得到最优坐标矩阵，取得较好的聚类性能。

为实现上述目的，本发明采用的技术方案是：

第一步、特征向量x的预测误差

（1）构建训练数据集，包括标记样本和未标记样本；

（2）对训练数据集中的每幅图像，提取底层的颜色、纹理和形状特征，构成特征向量x；

（3）采用局部线性回归方法，预测特征向量x在聚类子空间中的坐标，得到预测值

z＝ψ^Tx+ξ（1）

式(1)中：ψ表示回归矩阵；

ξ表示偏向；

T表示转置运算。

（4）设特征向量x在聚类子空间中的坐标最佳取值为y，则预测值z与最佳取值y之间的差为特征向量x的预测误差

q=||z-y||²=||ψ^Tx+ξ-y||²（2）

式(2)中:||||²表示二范式。

第二步、基于近邻关系的局部预测误差之和

（1）根据欧氏距离，从训练数据集中找到与特征向量x相邻的图像5~8幅；

（2）采用第一步中第（3）和第（4）分步所述方法，得到特征向量x相邻的图像中每幅图像的预测误差q，然后对特征向量x相邻的图像中每幅图像的预测误差q进行累加，得到基于近邻关系的局部预测误差之和σ。

第三步、基于总预测误差的优化函数