[发明专利]一种运用属性选择和平衡约束的谱聚类方法

说明书

本发明公开了其特征在于，包括如下步骤：1）设立目标函数；2）对目标函数进行优化，得到聚类结果矩阵；3）采用聚类结果矩阵，计算出聚类准确率。这种方法能解决高维数据和聚类结果不平衡的问题。

技术领域

本发明属于计算机领域，涉及机器学习和数据挖掘技术，具体是一种运用属性选择和平衡约束的谱聚类方法。

背景技术

聚类的目的是划分数据样本到多个不相交的子集中，每个子集叫做“簇”，使得簇内样本尽可能彼此接近，簇间样本尽可能彼此远离。聚类分析是一种有效的数据分析方法，是机器学习的一个重要分支。近年来，谱聚类算法获得了很多关注，谱聚类算法是一种很受欢迎的方法，原因是它的效果显著且容易实现。谱聚类算法的基本思想，首先根据样本点计算相似度矩阵，即转换数据到基于对相似性的权重无向图中，然后计算度矩阵和拉普拉斯矩阵，接着在相似矩阵中执行特征分解，计算拉普拉斯矩阵前k个特征值对应的特征向量，最后将这k个特征值对应的特征向量组成矩阵U的每一行成为一个新生成的样本点，对这些新生成的样本点进行k-means聚类，聚成k类，最后输出聚类的结果。

此外，谱聚类在各种应用中，均有一个良好的聚类性能，并且它已经成功的应用到很多应用中，比如图像聚类的应用有基于图像检索的文本、图注释和图索引。目前，各种谱聚类算法已经被提出，比如Spectral Embedded Clustering、Constrained LaplacianRank。k-means算法和min-cut算法也由于它们的简单有效性成为现实应用最流行的选择，许多文章均是是在他们的基础上加上exclusive lasso实现的平衡聚类，一些文章是对k-Means算法每次迭代中数据点的分配策略进行修改，达到对每个簇可包含的数据点数目上限进行约束的目的，然而一些文章是最小化最小二乘线性回归函数，并使用平衡约束来规范聚类模型进行的聚类。

尽管传统聚类方法在很多应用中已经取得了很好的性能，他们仍然存在一些问题。第一个问题是当给定的数据样本过多，维度过高时，通常会存在许多不相关的冗余特征，使得算法会出现计算属性之间距离困难等维数灾难问题，也会使得算法容易出现过拟合问题；第二个问题是假设给定的数据点分布是平衡的，人们期望聚类结果能够反映这种平衡，即聚类算法应该避免划分少数点到一个簇的情况，然而许多传统的聚类算法，均不能保证聚类结果的平衡，现实世界的许多数据挖掘应用中，来自每簇的数据数量是相同的。例如，男女人口数量在相同年龄范围并非十分不同，因此，由于这些数据的分布是均衡的，所以保证聚类结果尽可能地平衡是合理的，此外，随着平衡聚类的发展和应用，也由于许多文章描述的谱聚类方法并不能平衡聚类结果，这些方法对处理一些维度不大的数据具有一定的优越性，当遇到数据量大，该方法将难以进行，维度灾难将使得这些聚类算法的性能下降。

发明内容

本发明的目的是针对现有技术的不足，而提供一种运用属性选择和平衡约束的谱聚类方法。这种方法能解决高维数据和聚类结果不平衡的问题。

实现本发明目的的技术方案是：

一种运用属性选择和平衡约束的谱聚类方法，包括如下步骤：

1)设立目标函数：将平衡约束、属性约简和局部结构学习集成到一个框架中，设立目标函数，包括：

1-1)确定目标函数的损失项：由于聚类任务是没有类标签的，假设是一个聚类指示矩阵，其中c是聚类数，关于Y的exclusive lasso即平衡约束项为公式(1)所示：