[发明专利]一种基于改进有效集算法优化的极限学习机二元分类方法

权利要求书

1.一种基于改进有效集算法优化的极限学习机二元分类方法，其特征在于，包括以下步骤：

步骤一，给定训练样本集，确定优化的求解问题；

训练样本集为一个含有N个样本的训练样本集

X_i∈R^m和t_i∈{-1,+1}；求解问题的求解式及限制条件为

Minimize:12||β||2+CΣi=1Nξi]]>

Subject to:t_iβ·h(x_i)≥1-ξ_i         式(1)

ξ_i≥0,i＝1,...,N

其中，||·||表示欧几里得范数，β为法向量，h(x_i)为将m维训练样本输入映射到ELM特征空间的函数，C是人工设置的参数；

根据KKT定理和拉格朗日乘子理论，训练极限学习机等价于求解公式

Minimize:f(αs)=12αSTKSSαS+αUTKUSαS-eTαS]]>

Subject to:0≤α_i≤C,i∈S         式(3)

其中，α∈R^N是非负拉格朗日乘子对应的不等式约束的向量，

e＝[1,...1]^T∈R^N，K＝K_ELMt^T(t∈R^N×N)为半正定矩阵，核函数为K_ELM(x_i,x_j)＝h(x_i)·h(x_j)，定义集合

L＝{i|α_i＝0},U＝{i|α_i＝C}和S＝{i|0＜α_i＜C}，α_S和α_U是分别属于集合S和U的α的分量构成的向量，K_SS和K_US表示K的子矩阵；

步骤二，根据BAS有效集算法计算下降方向d^k并沿着下降方向d^k找到不违反约束条件的最大搜索步长

步骤三，根据EAS有效集算法设置临时迭代步长μ_temp和继续寻找最优步长

设置临时迭代步长μ_temp∈(μ,1]，通过临时步长μ_temp判断函数值能否较进一步下降，如果可以继续下降，重复选取μ_temp直至函数值不再下降为止；

步骤四，使用预测赋值法减少工作集变量迭代到最优值花费的计算代价；采用优化后的极限学习机对未知样本分类。