[发明专利]基于多标签二视角支持向量机的分类方法

摘要

本发明实施例公开了一种基于多标签二视角支持向量机的分类方法，包括以下步骤：首先，在多标签空间中定义一种新型的距离度量方法，用来衡量在特定的分类目标下多标签空间中点与点之间的距离；然后，在两个相互条件独立的视角上提取训练集的两组特征，结合利用二视角所包含的两组特征的互补信息；最后，结合多标签空间和二视角空间中的信息，利用定义的一种新的多标签二视角支持向量机分类器进行多标签分类训练。本发明用于采用鉴别型分类器结合利用标签空间中所包含的信息和多视角中的信息处理多标签分类问题，对训练集标签进行降噪的同时，得到一种更准确的分类方法。

主权项

1.一种基于多标签二视角支持向量机的分类方法，其特征在于，包括以下步骤：首先，在多标签空间中定义一种新型的距离度量方法，用来衡量在特定的分类目标下多标签空间中点与点之间的距离，其中所述新型的距离度量方法为，将多标签训练集表示为所述多标签训练集的两个相互条件独立的视角空间分别表示为和所述多标签训练集中的每个点都被标上了多种多样的标签，所述多标签训练集的标签字典组成了S维的多标签空间所述多标签训练集中的每个点在视角空间和中的特征向量分别表示为和在标签字典中的标签向量表示为d_i＝(d_i，1，d_i，2，...，d_i，S)′，其中d_i，r∈{0，1}，1≤r≤S表示标签字典中的第r个标签T_r是否在I_i中出现，同时用y_i，r表示I_i的分类标签，y_i，r＝2·d_i，r-1，在多标签一对多的分类模式中，当一个标签T_r被作为分类目标时，标签字典中其余的标签就会组成一个S-1维的标签特征空间用t_i，r表示I_i在空间中的特征向量，其中t_i，r＝(d_i，1，...，d_i，r-1，d_i，r+1，...，d_i，S)′，定义当给定d_i，k＝0or 1时，d_i，r＝0or1的条件概率如下所示：P10=ΔP(di,r=1|di,k=0)=1-P00]]>P01=ΔP(di,r=0|di,k=1)=1-P11]]>将每一个标签T_r的关联度向量标记为g_r，g_r＝(g_r，1，...，g_r，r-1，g_r，r+1，...，g_r，S)′，向量的每一个元素表示标签T_r与其他标签的关联度，关联度元素g_r，k(k∈{1，...，r-1，r+1，...，S})的定义如下式所示：g_r，k＝P₀₀·P₁₁+P₁₀·P₀₁，将样本点在空间中的特征向量与每一个标签T_r关联度向量结合起来，得到多标签空间中一种新型的距离度量方法的定义如下式所示：dis_r(I_i，I_j)＝||(t_i，r-t_j，r)⊙g_r||_p，其中⊙表示向量之间的阿达马Hadamard乘积；然后，在两个相互条件独立的视角上提取训练集的两组特征，结合利用二视角所包含的两组特征的互补信息；最后，结合多标签空间和二视角空间中的信息，利用定义的一种新的多标签二视角支持向量机分类器进行多标签分类训练，所述新的多标签二视角支持向量机分类器的建立方法为：I_i在标签特征空间中定义的邻域，不包括I_i自己，表示为I_i和其邻域中数据点的分类结果相似度高，和非邻域数据点的分类结果相似度低，邻域的大小u表示I_i在空间中的最邻近的邻居点的个数，将和分别标记为和通过最大化同一个样本点在两个视角下的分类相似度来添加二视角约束，该二视角约束如下所示：∀i=1n:|w(a)Txi(a)+b^(a)-w(b)Txi(b)-b^(b)|≤ηi,ηi≥0]]>其中w^(z)，分别是多标签二视角支持向量机分类器MSVM-2K在视角z＝a，b上的系数和偏置，通过最小化每一个点和其在多标签空间中最邻近的邻居点的分类结果在同一个视角和在不同视角之间的差异来添加多标签约束，多标签约束如下所示：且|w(a)Txi(a)-w(a)Txj(a)|≤ηij(aa),ηij(aa)≥0---(1)]]>|w(b)Txi(b)-w(b)Txj(b)|≤ηij(bb),ηij(bb)≥0---(2)]]>|w(a)Txi(a)+b^(a)-w(b)Txj(b)-b^(b)|≤ηij(ab),ηij(ab)≥0---(3)]]>|w(b)Txi(b)+b^(b)-w(a)Txj(a)-b^(a)|≤ηij(ba),ηij(ba)≥0---(4)]]>利用柔性分类标签来替代同一个视角下的多标签约束(1)和(2)；同时，只选取不同视角下的多标签约束(3)和(4)中的一个以降低计算复杂度，将每个点I_i的柔性分类标签标记为l_i，r，l_i，r的取值不仅取决于I_i的分类标签y_i，r，还取决于I_i在空间中最邻近的邻居点的分类标签，l_i，r的定义如下所示：D是常量，且0≤D＜1，多标签二视角支持向量机的优化式如下所示：Cij=C(ab)i=jC(ab)*/edisr(Ii,Ij)i≠j]]>s.t.∀i=1n:li,r(w(a)Txi(a)+b^(a))≥|li,r|2-|li,r|ξi(a),ξi(a)≥0]]>li,r(w(b)Txi(b)+b^(b))≥|li,r|2-|li,r|ξi(b),ξi(b)≥0]]>且|w(a)Txi(a)+b^(a)-w(b)Txj(b)-b^(b)|≤ηij(ab),ηij(ab)≥0]]>其中C^(a)，C^(b)，C^(ab)，C^(ab)*和D是常量，C^(ab)*＜C^(ab)，0≤D＜1。