[发明专利]基于Gauss诱导核的模糊c均值聚类算法

说明书

本发明公开了一种基于Gauss诱导核的模糊c均值聚类算法，包括如下步骤：1.对样本集合依目标函数最小化原则进行最优化划分；2.初始化模糊隶属度或者初始化聚类中心；3.按Gauss诱导核聚类算法中的迭代计算公式对模糊隶属度和聚类中心进行参数估计；4.获得优化的目标函数。本发明能够有效利用核方法在聚类算法中的非线性表达能力，提升核聚类算法的聚类性能。且聚类中心迭代公式不包含聚类中心自身，满足了聚类算法迭代收敛证明的条件，从而从理论上保障了算法的收敛性。

技术领域

本发明属于数据挖掘领域进行无监督数据分类的算法，具体的说是一种基于Gauss诱导核的模糊c均值聚类算法。

背景技术

聚类分析是无监督模式识别的一个重要内容，聚类的目的是使得相似样本划分在一起，而将不相似样本划分为不同类别。模糊c均值聚类算法(FCM)是聚类分析中应用最为广泛的一种方法，是由Dun、Bezdek等人发展而成的一种模糊聚类算法，FCM算法基于加权误差平方和最小化理论，使用欧式距离度量样本与聚类中心，用于表现样本与聚类中心间的误差，适合于数据集为线性关系的数据，但对非线性数据的聚类往往效果不好。

自核方法被成功的应用于分类器支持向量机(SVM)以来，即受到机器学习和模式分类领域研究者的广泛关注和研究，并进一步将其推广应用到特征提取、模糊聚类等领域。

核方法将输入空间的非线性关系通过非线性映射转换为高维特征空间的线性关系，增大了模式间的差异性刻画，且利用核函数表示高维特征空间中的内积运算，无需明确知道具体的非线性映射形式，克服了机器学习的维数灾难问题，所以在模糊聚类领域有着广泛而成功的应用。

由于核方法利用核函数表达特征空间中的内积运算，且特征空间中的空间距离可转换为内积运算形式，所以核方法适合于在特征空间中仅存在内积和距离运算的算法。聚类中心是模糊聚类算法的重要组成部分，由于核方法中非线性映射的无具体形式给出，因此在模糊聚类算法中应用核方法时，一个关键性的问题是如何表示核聚类中心。

自Girolami和张莉、焦李成等提出硬核聚类算法以来，将核方法应用于聚类算法的各种核模糊聚类算法应运而生，通过对比研究可以发现，这些核模糊聚类算法的根本原理都是相同的，即在各种模糊聚类算法中结合应用核方法。这些核模糊聚类算法的聚类目标函数和模糊隶属度公式在形式上是一致的，不同之处在于核聚类中心的推导原理及表现形式的不同。

现有核模糊聚类算法依聚类中心生成原理可分为三种，第一种是利用核矩阵K(v_i,v_i)及K(x_h,v_i)交替迭代，对模糊隶属度进行估计，聚类中心v_i没有显示给出，该核聚类算法称为隐核模糊c均值聚类算法(HKFCM)，算法性能不够稳定。第二种是利用高斯核函数求偏导在输入空间中得到聚类中心的v_i的显式表达，但聚类中心迭代公式右端包含聚类中心本身，不满足聚类算法收敛性证明的要求，称为Gauss核模糊c均值聚类算法(GKFCM)。第三种是利用粒子群生物进化算法(PSO)在输入空间中对聚类中心进行搜索，称为PSO核模糊c均值聚类算法(PSO—KFCM)，依赖于粒子群算法的迭代收敛，当初始条件不好时，则聚类性能较差。

发明内容

本发明为了克服现有技术存在的不足之处，充分利用核函数的非线性表达能力，提出一种基于Gauss诱导核的模糊c均值聚类算法，目的在于充分利用聚类算法在输入空间和核映射空间的分类信息，提升算法的分类性能。同时以显示形式表现参数迭代公式，且迭代公式右端不含有待迭代参数自身，进而保证算法的收敛性。

为了实现上述发明目的，本发明采用如下技术方案：

本发明基于Gauss诱导核的模糊c均值聚类算法，特点按如下步骤进行：