[发明专利]基于拒识子空间的分层支持向量机分类方法

权利要求书

1.一种基于拒识子空间的应用于非平衡大数据分类的分层支持向量机分类方法，其特征在于，该分类方法包括如下的步骤：

步骤S1：将数据集按照比例分为训练数据集和验证数据集；确定分层支持向量机的总层数h；

步骤S2：根据训练数据集规模为支持向量机层叠训练法选择核函数，并利用支持向量机层叠训练法在训练数据集上训练第k层支持向量机，k表示某一分层的支持向量机；

步骤S3：在验证数据集上，利用基于互信息的代价缺失学习获得第k层支持向量机的正负类样本拒识阈值，进而确定第k层支持向量机的拒识子空间；

步骤S4：利用第k层支持向量机的拒识子空间分别在训练数据集上和验证数据集上筛选出拒识训练数据集和拒识验证数据集，筛选出的拒识训练数据集和拒识验证数据集分别是下一层支持向量机的训练数据集和验证数据集，利用筛选出的训练数据集和验证数据集重复执行步骤S2至步骤S4，直到分层支持向量机的层数达到总层数h，则执行步骤S5；

步骤S5：给定一个测试样本，根据分层支持向量机的层次结构判定其类别。

2.根据权利要求1所述的应用于非平衡大数据分类的分层支持向量机分类方法，其特征在于，步骤S2中所述支持向量机层叠训练法的训练步骤如下：

步骤S21：分析训练数据集的大小和正负类样本的结构，将训练数据集随机等分为m个子训练数据集；

步骤S22：在m个子训练数据集上分别训练支持向量机，并提取出各个支持向量机的支持向量集SVs1；

步骤S23：将支持向量集SVs1两两组合，在组合的支持向量集上训练支持向量机并提取支持向量集SVs2，上述的两两组合，训练和提取的过程依层次进行，一直持续到获得一个整体的支持向量机，提取出整体的支持向量机的支持向量集，并将之反馈给初始的m个子训练数据集，重复执行步骤S22和步骤S23q次，然则执行步骤S24；

步骤S24：最后一次执行步骤S22和步骤S23获得的整体的支持向量机是在全体训练数据集上收敛的最优的支持向量机。

3.根据权利要求1所述的应用于非平衡大数据分类的分层支持向量机分类方法，其特征在于，步骤S3中所述用基于互信息的代价缺失学习构建拒识子空间的步骤如下：

步骤S31：设定第k层支持向量机的正负类样本的初始拒识阈值；

步骤S32：利用第k层支持向量机和设定的初始拒识阈值，获得验证数据集的分类混淆矩阵，计算该分类混淆矩阵的互信息；

步骤S33：利用Parzen Window非参数估计法在验证数据集上估计位于拒识阈值处正负类样本的条件概率密度与条件概率密度的导数，从而获得分类混淆矩阵互信息的梯度与Hessian矩阵；

步骤S34：利用牛顿法，获得经过一步迭代优化的拒识阈值，重复执行步骤S32至步骤S34，直到获得牛顿法迭代收敛的结果，然则执行步骤S35：

步骤S35：牛顿法迭代收敛获得的拒识阈值是互信息最优的拒识阈值，构成了第k层支持向量机的拒识子空间。

4.根据权利要求1所述的应用于非平衡大数据分类的分层支持向量机分类方法，其特征在于，步骤S5中所述的具体分类过程是：首先，将测试样本输入到第1层支持向量机，如果第1层支持向量机判定该测试样本的类别则分类过程结束；如果第1层支持向量机拒识该测试样本则将该测试样本输入到第2层支持向量机，让第2层支持向量机判定该测试样本的类别；上述的分类过程一直持续到该测试样本获得类别标签。

5.根据权利要求1-4所述的应用于非平衡大数据分类的分层支持向量机分类方法，其特征在于，分层支持向量机分类方法采用一对多训练判别准则能够并行化处理多类分类问题。