[发明专利]基于信息增益和在线支持向量机的新型分类器及分类方法

权利要求书

1.一种基于信息增益和在线支持向量机的新型分类器的分类方法，其特征是：基于信息增益和在线支持向量机的新型分类器包括样本预测器，所述的样本预测器连接样本特征选择器，所述的样本特征选择器连接空间向量生成器，所述的空间向量生成器连接在线支持向量机训练器，所述的样本预测器与所述的样本特征选择器与所述的空间向量生成器与所述的在线支持向量机训练器均连接中央处理器；

所述的中央处理器包括控制单元，所述的控制单元连接预处理器和算术逻辑单元；

先将代码从磁盘存储器中读入随机访问存储器RAM中，并在随机访问存储器中建立程序编译和运行所需的堆、栈、自由存储区、静态存储区和常量存储区；程序编译之后，在随机访问存储器中创建预处理器、特征选择器、建立特征空间器、样本预测器以及样本训练器；预处理器处理的样本是网络层的数据包或是磁盘存储器上的数据；预处理器获得数据之后，将数据通过总线发送给中央处理器(CPU)中的控制单元(Control Unit)，控制单元再根据指令将数据送给算术逻辑单元(ALU)，算术逻辑单元将处理的结果通过控制单元、总线发送给预处理器，预处理器将全部处理完的结果返回给特征选择器，数据经过特征选择器、建立特征空间向量器、样本预测器和样本训练器之后输出结果；特征选择器、建立特征空间向量器、样本预测器和样本训练器的处理过程和预处理器一样，都是按照编写好的程序和指令，通过总线传送给中央处理器的控制单元，控制单元控制算术逻辑单元处理数据，并将处理好的结果传送给样本预测器、样本特征选择器、空间向量生成器和在线支持向量机训练器；

本分类方法包括如下步骤：第一步对样本信息进行预处理，获得样本的特征；第二步使用信息增益Information Gain方法计算每个特征的信息量，再根据一定的策略选择所需的特征；第三步根据选择的特征建立能够适应在线支持向量机模型的特征空间向量；第四步利用在线模型训练基于在线支持向量机的新型分类器；第五步利用分类器分类样本；

所述的第一步的选择样本有效特征是使用信息增益策略来计算每个特征在所出现的样本中信息量大小，根据得到每个特征信息增益量来判断是否需要选择该特征；

所述的第三步建立特征空间向量是根据选择的样本特征，通过哈希表进行特征映射，将其转为在线支持向量机能够识别的特征空间向量；

所述的第四步在线支持向量机是将支持向量机SVM转化成在线模式，在线模式是分类和训练同时进行；所述的基于在线支持向量机的新型分类器中放宽了在线支持向量机的条件，所述放宽了在线支持向量机的条件包括放宽了多次迭代寻找最优分类界面的条件；

所述的新型分类器包括首先对样本信息预处理，获取样本的特征；然后选择样本有效的特征；之后建立特征空间向量；最后利用基于在线支持向量机的分类器对样本进行分类和训练；

所述的新型分类器中训练部分样本是最近出现的n个样本，并不是全部样本；

所述的信息增益(Information Gain)方法的计算公式是

$\begin{array}{c}InforGain\left(T\right)=-\underset{c\∈\{c1,c2\}}{\Σ}p\left(c\right){\log }_{2}p\left(c\right)\\ +p\left(t\right)\underset{c\∈\{c1,c2\}}{\Σ}p\left(c\right|t){\log }_{2}p\left(c\right|t)\\ +p\left(\stackrel{\‾}{t}\right)\underset{c\∈\{c1,c2\}}{\Σ}p\left(c\right|\stackrel{\‾}{t}){\log }_{2}p\left(c\right|\stackrel{\‾}{t})\end{array}.$