[发明专利]一种运用属性选择和平衡约束的谱聚类方法

权利要求书

1.一种运用属性选择和平衡约束的谱聚类方法，其特征在于，包括如下步骤：

1)设立目标函数：将平衡约束、属性约简和局部结构学习集成到一个框架中，设立目标函数，包括：

1-1)确定目标函数的损失项：假设是一个聚类矩阵，其中c是聚类数，关于Y的exclusive lasso即平衡约束项为公式(1)所示：

其中Y是聚类矩阵，y_ij是矩阵Y的第i行第j列元素，是矩阵Y的转置，是n行1列矩阵，是矩阵1的转置，找到一个使得XW与指示矩阵Y的误差小，根据最小二乘法，损失项表示为由此，样本的维度由原始的d维降低到c维，c＜＜d，在机器学习中，样本维数是多维的，因此优化目标的损失函数表示为如公式(2)所示：

1-2)将属性约简项加到目标函数中：

对公式(2)引入正则化项，并且对W进行正交约束进行属性选择，目标函数改写为公式(3)所示：

1-3)将平衡约束项加到目标函数中：

正则化参数β＞0，叫做调节因子，I为单位矩阵，即对角元素为1，其余元素为0的方阵，W^TW＝I是对W进行正交约束，在相同数据点不同类中引入竞争因子，目标函数进一步写为如公式(4)所示：

其中，γ为平衡正则项的参数，用公式(1)替换||Y||_b，目标函数重写为如公式(5)所示：

1-4)确立最终的目标函数：引入拉普拉斯矩阵的子空间学习进行局部保持投影使得降维前后数据的局部结构不变，最终的目标函数表示为如公式(6)所示：

其中是拉普拉斯图矩阵：L＝D-W，其中D是对角矩阵，表示为：是原始数据、是聚类结果、为探索原始数据与聚类结果之间的关系得到的矩阵；

2)对目标函数进行优化，得到聚类结果矩阵Y：

采用迭代优化的方法求目标函数，分别对两个变量进行求解，选择先优化Y，再优化W，首先，目标函数公式(6)经过如公式(7)所示的等价变换：

具体为：

2-1)固定W，优化Y：当W被固定，通过解决如下公式(8)所示的问题求得Y：

首先，对公式(8)的Y进行求导并使导数等于0，得公式(9)：

2(L+αI_n+γ11^T)Y-2αXW＝0 (9)，

求得Y的值如公式(10)：

Y＝(L+αI_n+γ11^T)^-1αXW (10)；

2-2)固定Y，优化W：根据GPI算法，可以把目标函数中含W的项化为的形式，得公式(11)：

整理公式(11)，可得公式(12)：

此时得GPI算法中的A和B分别为公式(13)、公式(14)：

A＝αX^TX+βD (13)，

B＝αX^TY (14)，

2-3)运用属性选择和平衡约束的谱聚类：根据上述优化描述，获得目标函数最终的优化过程如算法1所示：

算法1：运用属性选择和平衡约束的谱聚类算法，

输入：样本矩阵X以及各个可调参数的α，β，γ，输出：Y：

2-3-1)随机初始化W⁽⁰⁾并使得W^TW＝Ι_c；

2-3-2)初始化t＝1；

2-3-3).Do{循环开始

2-3-4)通过Y＝(L+αI_n+γ11^T)^-1αXW更新Y^(t)；

2-3-5)更新D^(t)斜对角元素的值，该值为

2-3-6)通过A＝αX^TX+βD更新A^(t)；

2-3-7)通过B＝αX^TY更新B^(t)；

2-3-8)通过GPI算法优化W^(t)；

2-3-9)更新t＝t+1

2-3-10).}循环结束

2-3-11)直到目标函数收敛；

3)采用聚类结果矩阵Y，计算出聚类准确率。