[发明专利]基于支持向量机正则化路径的广义近似交叉验证方法

说明书

技术领域

本发明涉及基于正则化路径的支持向量机模型选择，特别是应用广义近似交叉验证方法实现。

背景技术

支持向量机(SVM)及其正则化路径

支持向量机(support vector machine，SVM)是借助于最优化方法解决机器学习问题的新工具。它由Vapnik及其合作者发明，在1992年计算机学习理论的会议上介绍进入机器学习领域，之后受到了广泛的关注。近年来在其理论研究和算法实现方面都取得了突破性进展，并成为克服“维数灾难”和“过学习”等传统困难的有力手段。SVM的理论体系涵盖的对象极为广泛，如对偶表示、特征空间、学习理论、优化理论和算法等。SVM在文本分类、手写识别、图像分类、生物信息学等领域中获得了比较好的应用。

对于2-分类支持向量机正则化模型，Trevor Hastie及其学生在2004年发表的文章中给出了求解完整路径的方法，得出惩罚参数C的所有可能值，整个计算过程只需花费求解单个SVM模型的时间。

1)支持向量机线性模型

定义12-分类线性支持向量机正则化模型如下：

minβ,β0Σi=1nξi+λ2βTβ]]>

subject to 1-y_if(x_i)≤ξ_i；ξ_i≥0；f(x)＝β₀+β^Tx.            (1)

建立拉格朗日原函数：