[发明专利]一种基于加权投影对支持向量机的样本分类方法

权利要求书

1.一种基于加权投影对支持向量机的样本分类方法，其特征在于，包括以下步骤：

S01：在每类样本内部及不同类样本之间分别构造类内近邻图G_s和类间近邻图G_d；

S02：依据每类样本的类内近邻图G_s计算样本权值,并计算每类样本的加权均值中心；

S03：依据类间近邻图G_d确定离特定类样本较近的相反类样本，并构造线性模式下的优化问题；

S04：求解上述优化问题的对偶问题，获得两类样本的决策超平面：x^Tw₁+b₁＝0和x^Tw₂+b₂＝0，依据决策超平面对未知样本进行分类，其中，w₁、w₂为第1类和第2类样本的投影轴，x表示n维度矢量空间中的样本，b₁、b₂分别表示两类样本决策超平面的偏置。

2.根据权利要求1所述的基于加权投影对支持向量机的样本分类方法，其特征在于，同类中给定的任意两个c类样本和m_c为c类样本数，则类内近邻图G_s的相似矩阵为:

Wijs=exp(-||xi(c)-xj(c)||2/t)if xj(c)is k nearest neighbors of xi(c)or xi(c)is k nearest neighbors of xi(c),0otherwise,---(4)]]>

其中t为热核参数；

第c类样本的相反类中任意样本则类间近邻图G_d的相似矩阵为:

Wild=1if xl(c‾)is k nearest neighbors of xi(c),0therwise.---(5)]]>

第类中每一个样本定义权重为：

fl(c‾)=1∃i,Wild≠0,0therwise.---(6)]]>

显然，第类中的那些样本是离第c类样本比较近的边界点；

第1类超平面和第2类超平面优化目标是为第1类和第2类样本寻找最佳投影轴w₁和w₂,使得权重较大的样本投影后尽可能聚集在加权均值中心附近，第1类超平面优化准则为：

(WPTSVM-1)min12Σi=1m1ρi(1)(w1Txi(1)-w1TΣj=1m1λj(1)xj(1))2+C1Σl=1m2ξl,s.t.-fl(2)(w1Txl(2)-w1TΣj=1m1λj(1)xj(1))+ξl≥fl(2),ξl≥0.---(7)]]>

第2类超平面优化准则为：

(WPTSVM-2)min12Σl=1m2ρl(2)(w2Txl(2)-w2TΣj=1m2λj(2)xj(2))2+C2Σi=1m1ηi,s.t.fi(1)(w2Txi(1)-w2TΣj=1m2λj(2)xj(2))+ηi≥fl(1),ηi≥0.---(8)]]>

其中，C₁和C₂是惩罚参数，ξ_l和η_i为损失变量，c＝1、2，代表样本的权重，为第1类样本空间的加权均值，可通过分别求解优化准则式(7)和(8)的对偶问题，获得两类样本的最佳投影轴：

第1类样本投影轴w₁为：

w1=-((A-e1e1TE(1)A)TD(1)(A-e1e1TE(1)A))-1(F(2)(B-e2e1TE(1)A))Tα.---(16)]]>

第2类样本投影轴w₂为：

w2=((B-e2e2TE(2)B)TD(2)(B-e2e2TE(2)B))-1(F(1)(A-e1e2TE(2)B))Tγ.---(17)]]>

其中:D(1)=diag(ρ1(1),...,ρm1(1)),D(2)=diag(ρ1(2),...,ρm2(2)),E(1)=diag(λ1(1),...,λm1(1)),]]>E(2)=diag(λ1(2),...,λm2(2)),F(1)=diag(f1(1),...,fm1(1)),F(2)=diag(f1(2),...,fm2(2)),A∈Rm1×n]]>表示第1类(即+1类)样本集，表示第2类(即-1类)样本集，及为单位1向量，α=[α1,...,αm2]T]]>和γ=[γ1,...,γm1]T]]>是非负拉格朗日乘子；

对于未知样本x，WPTSVM的分类决策函数为：

其中,dc=|wcTx-wcTΣj=1mcλj(c)xj(c)|.]]>