[发明专利]基于多标签约束支持向量机的分类方法

摘要

本发明实施例公开了一种基于多标签约束支持向量机的分类方法，包括以下步骤：首先，在多标签空间中定义一种新型的距离度量方法，用来衡量在特定的分类目标下多标签空间中点与点之间的距离；然后，在特定的分类目标下对多标签空间中的每个点定义一个邻域，某点的邻域包含在新型的距离度量方法下离中心点最近的几个点，并提出了多标签邻域相似度约束；最后，结合多标签邻域相似度约束和传统的支持向量机约束，提出一种新的多标签约束支持向量机分类器进行多标签分类训练。本发明用于通过多标签约束利用多标签空间中包含的信息来提高鉴别型分类器在多标签分类中的分类精度，降低噪声标签对分类的影响。

主权项

1.一种基于多标签约束支持向量机的分类方法，其特征在于，包括以下步骤：首先，在多标签空间中定义一种新型的距离度量方法，用来衡量在特定的分类目标下多标签空间中点与点之间的距离，所述新型的距离度量方法为：将多标签训练集表示为多标签训练集中的每个点都被标上了多种多样的标签，整个多标签训练集的标签字典组成了S维的多标签空间多标签训练集中的每个点在视角中的特征向量表示为x_i，在标签字典中的标签向量表示为d_i＝(d_i，1，d_i，2，...，d_i，S)′，其中d_i，r∈{0，1}，1≤r≤S表示字典中的第r个标签T_r是否在I_i中出现，同时用y_i，r表示I_i的分类标签，y_i，r＝2·d_i，r-1，在多标签一对多One Vs All的分类模式中，当一个标签T_r被作为分类目标时，标签字典中其余的标签就会组成一个S-1维的标签特征空间用t_i，r表示I_i在空间中的特征向量，t_i，r＝(d_i，1，...，d_i，r-1，d_i，r+1，...，d_i，s)′，定义当给定d_i，k＝0or1时，d_i，r＝0or1的条件概率如下所示：P10=ΔP(di,r=1|di,k=0)=1-P00]]>P01=ΔP(di,r=0|di,k=1)=1-P11]]>将每一个标签T_r的关联度向量标记为g_r，g_r＝(g_r，1，...，g_r，r-1，g_r，r+1，...，g_r，S)′；向量的每一个元素表示标签T_r与其他标签的关联度；关联度元素g_r，k(k∈{1，...，r-1，r+1，...，S})的定义如下式所示：g_r，k＝P₀₀·P₁₁+P₁₀·P₀₁，将样本点在空间中的特征向量与每一个标签T_r关联度向量结合起来，得到多标签空间中一种新型的距离度量方法的定义如下式所示：dis_r(I_i，I_j)＝||(t_i，r-t_j，r)⊙g_r||_p，其中⊙表示向量之间的阿达马Hadamard乘积；然后，在特定的分类目标下对多标签空间中的每个点定义一个邻域，某点的邻域包含在新型的距离度量方法下离中心点最近的几个点，并提出了多标签邻域相似度约束，所述的邻域以及多标签邻域相似度约束的建立方法为：I_i在空间中用这种新型距离度量方法定义的邻域，不包括I_i自己，表示为I_i和其邻域中数据点的分类结果相似度高，和非邻域数据点的分类结果相似度低，邻域的大小u表示I_i在空间中的最邻近的邻居点的个数，所述多标签约束支持向量机通过添加多标签空间邻域相似度约束来最小化每一个点和其在多标签空间中最邻近的邻居点的分类结果之间的差异，该约束如下所示：且|w^Tx_i-w^Tx_j|≤η_ij，η_ij≥0；其中w是多标签约束支持向量机分类器的系数；最后，结合多标签邻域相似度约束和传统的支持向量机约束，提出一种新的多标签约束支持向量机分类器进行多标签分类训练，所述新的多标签约束支持向量机分类器的建立方法为：结合上述多标签约束条件和传统的支持向量机约束条件，整合到多标签约束支持向量机的优化式中，优化式如下所示：minw=12||w||2+CΣi=1nξi+Σi=1nΣj∈NirC*edisr(Ii,Ij)·ηij]]>s.t.∀i=1n:]]>yi,r(wTxi+b^)≥1-ξi,]]>ξ_i≥0且|w^Tx_i-w^Tx_j|≤η_ij，η_ij≥0其中分别是多标签约束支持向量机分类器的系数和偏置，C和C^*是常数，且C^*＜C，ξ_i是松弛变量。