[发明专利]一种针对低维数据样本筛选的支持向量机加速方法及装置

说明书

本发明涉及数据处理技术领域，提供了一种针对低维数据样本筛选的支持向量机加速方法及装置，该方法包括：对原始样本的区域边界进行逐级的网格划分，并确定分类边界；根据分类边界选取边界样本，作为筛选后的训练样本；使用所述筛选后的训练样本进行支持向量机的训练。本发明针对低维数据的分类问题，对给定样本进行网格划分，找到分类边界处的样本，并把他们提取出来，得到有效的支持向量机训练样本，最大程度上减少参与下一步实际的支持向量机训练的无效样本，实现了对支持向量机训练计算过程的加速。

技术领域

本发明涉及数据处理技术领域，尤其涉及一种针对低维数据样本筛选的支持向量机加速方法及装置。

背景技术

支持向量机(SVM：SupportVectorMachine)是基于统计学习理论中结构风险最小化原理而提出的一种学习算法。能有效避免过学习、维数灾难、局部极小等问题，以其坚实的理论基础和良好的泛化性能而被广泛应用于机器学习的诸多领域。然而，经典的支持向量机训练,本质上是二次规划问题(QP)的求解，而标准二次规划问题(QP)求解算法的时间复杂度是O(N3)，所以当样本集数量规模较大时，需要较多的训练时间和存储空间。正是由于支持向量机的训练算法复杂度随求解问题规模的增大呈指数增长、计算量大、训练速度慢，支持向量机不适宜大规模数据问题的应用，成为影响支持向量机发展的主要因素。

目前，对于数据集中的缺失值的解决办法大致分为以下几种：

(1)分解算法；该方法解决了算法空间复杂度高的问题，但对于具有较多支持向量的大规模问题，仍存在收敛速度慢的缺陷。

(2)随机提取样本算法；该方法由于采用随机提取训练样本的方式，使用的样本有效信息较少，所以训练出来正确率有所降低；

(3)预提取训练样本方法；该方法是以某种距离特征为基础，提取位于分类边界附近的训练样本，对样本的分布密度、分布边界形状较为敏感，算法中的参数也需人为设定，自适应能力较低。

发明内容

本发明要解决的技术问题在于，针对现有技术的上述一个或多个的缺陷，提供了一种针对低维数据样本筛选的支持向量机加速方法及装置。

为了解决上述技术问题，本发明提供了针对低维数据样本筛选的支持向量机加速方法，包括：

边界确定步骤、对原始样本的区域边界进行逐级的网格划分，并确定分类边界；

样本筛选步骤、根据分类边界选取边界样本，作为筛选后的训练样本；

样本训练步骤、使用所述筛选后的训练样本进行支持向量机的训练。

可选地，所述边界确定步骤包括：

1)将原始样本的区域边界作为当前检测区域；

2)将当前检测区域平均划分成四个网格，并对每个网格执行以下分类边界检测操作：

a.判断当前网格的样本数是否低于预设最低样本数，是则将当前网格的样本全部记为边界样本，并结束对当前网格的检测，转步骤f；否则选取当前网格与下一相邻的网格，并转步骤b；

b.判断这两个相邻的网格为双样网格还是单样网格，所述双样网格为同时包含两类样本的网格，所述单样网格为只含有一类样本的网格；若这两个相邻的网格均为单样网格，则转步骤c；若这两个相邻的网格中一个为单样网格一个为双样网格，则转步骤d；若这两个相邻的网格均为双样网格，则转步骤e；

c.判断这两个相邻的网格中各自包含的样本是否属于同一类样本，是则确定这两个相邻的网格中无分类边界，否则确定这两个相邻的网格之间的边界为分类边界；

d.提取双样网格中距离相邻网格边界最近的k个样本，如果均与单样网格中样本属于同一类，则确定这两个相邻的网格中无分类边界，否则确定所述相邻网格边界为分类边界；