[发明专利]一种基于迭代的神经网络聚类方法

权利要求书

1.一种基于迭代的神经网络聚类算法，其特征在于包括以下步骤：

步骤1，初始化超限学习机模型参数；

步骤2，随机选取与所要聚类个数相同数量的样本，每个样本代表一个聚类，训练超限 学习机以得到初始的隐层到输出层间权值；

步骤3，利用当前的超限学习机模型对样本进行聚类分组；

步骤4，对于每一个聚类分组，根据规则选取多个样本作为该聚类分组的榜样；

步骤5，使用上个步骤中得到各聚类分组的榜样样本来重新训练超限学习机模型；

步骤6，若满足结束条件则输出聚类分组结果，否则返回步骤3。

2.根据权利要求1所述的一种基于迭代的神经网络聚类算法，其特征在于，步骤1共包 括以下2个子步骤：

步骤1.1，设置超限学习机模型的隐层神经元个数L、隐层的激活函数g(θ)以及正则项 系数γ；

其中隐层神经元个数L的取值大于样本的特征维度d；隐层的激活函数g(θ)通常 Sigmoid函数，正则项系数γ的取值范围通常为[10^-5，10¹⁰]；

步骤1.2，随机初始化超限学习机模型中输入层到隐层的权值W以及偏置b，输入层到隐 层的权值W是一个d行L列的随机矩阵，随机范围为[-1，1]；偏置b是一个1行L列的随机矩阵， 随机范围为[-1，1]，偏置b中的一列对应隐层中一个神经元的偏置。

3.根据权利要求1所述的一种基于迭代的神经网络聚类算法，其特征在于，步骤2共包 括以下2个子步骤：

步骤2.1，随机选取聚类个数个样本，即随机选取K个样本，其中每个样本都代表一个聚 类，构成初始榜样集和对应的目标输出来训练超限学习机模型；

步骤2.2，计算隐层神经元的输出H⁽⁰⁾和超限学习机隐层到输出层的权重β⁽⁰⁾，从而得到 初始模型，计算公式如式(2)、(3)、(4)所示：

H⁽⁰⁾＝g(W·E⁽⁰⁾+B⁽⁰⁾)(2)

如果K＞L，

否则，

其中B⁽⁰⁾为偏置b的行拓展矩阵，拓展为行数与E⁽⁰⁾的行数相等的矩阵，即B⁽⁰⁾为K行L列 的矩阵，K为所要聚成的类别个数，L为隐层神经元个数，代表矩阵H⁽⁰⁾的转置，代表 求广义逆矩阵，I_L是一个L维的单位矩阵，I_K是一个K维的单位矩阵。

4.根据权利要求1所述的一种基于迭代的神经网络聚类算法，其特征在于，在步骤3中 分为两个子步骤：

步骤3.1，使用的超限学习机模型，输入层到隐层的权值W以及偏置b、激活函数g(θ)、隐 层神经元个数L以及正则项系数γ在迭代中是固定不变的；只有隐层到输出层的权值β是随 着迭代不断变化的；

利用当前状态的模型参数计算样本x_i在输出层神经元上的输出值o_i，公式如下：

h_i＝g(Wx_i+b)(5)

o_i＝h_iβ^(m-1)(6)

其中h_i表示样本x_i在隐层上的输出值，是一个1行L列的矩阵，o_i是样本x_i在输出层上的 输出值，是一个1行K列的矩阵，β^(m-1)代表上次迭代得到的隐层到输出层的权值；

步骤3.2，根据样本在输出层神经元上的输出值，为样本进行分组聚类；输出层神经元 的个数与所要聚类个数相等，分配的规则是：将样本分配给输出层神经元的输出值最高的 那个神经元所对应的聚类分组中。