[发明专利]机器学习中基于集成特征选择的不平衡数据处理方法

权利要求书

1.机器学习中基于集成特征选择的不平衡数据处理方法，其特征在于，所述方法包括以下步骤：

步骤一：首先获取数据，对数据进行整理并分析原始数据集种的初始特征，计算出不同的特征值，得到特征集合，进入步骤二；

步骤二：接着对数据进行进一步处理，设计一种集成特征选择方法对所得到的特征集合进行特征选择，寻找最优特征子集来去除冗余特征并且解决数据不平衡问题，提高分类效率，转入步骤三；

步骤三：最后将得到的最优特征子集作为输入，采用机器学习分类算法进行训练，构建分类器模型，使用正类正确率(acc⁺)、负类准确率(acc^-)作为性能评价指标。

2.根据权利要求1所述的基于集成特征选择的的不平衡数据处理方法，其特征在于，步骤二中所述集成特征选择方法包括以下步骤：

步骤一：首先采用Filter中的信息增益方法描述特征相关性，进入步骤二；

步骤二：然后采用基于Bagging的特征选择方法进行自助采样，先将少数类全部采样出来，再采样出与少数类样本数量差不多的多数类样本，将这两个样本集作为一个数据子集，进行多次循环采样，将尽可能多的少数类样本参与数据子集中，进入步骤三；

步骤三：接着结合合成少数类过采样技术(Synthetic minority oversamplingtechnique，SMOTE)对少数类样本进行一定数量的增加，再利用与之前同样的方法采样出与少数类样本数量的多数类样本，将采样出的多数类样本与过采样的少数类样本构造为多个袋装子集，进入步骤四；

步骤四：利用基于相关性度量的特征选择算法对每个袋装子集中筛选出特征子集，最后设置阈值对多个新的特征合集进行处理构造出特征合集。

3.根据权利要求1所述的机器学习中基于集成特征选择的不平衡数据处理方法，其特征在于，步骤三所指评价指标，其计算方式为：

4.根据权利要求1所述的机器学习中基于集成特征选择的不平衡数据处理方法，其特征在于，步骤四中的相关性度量算法，其计算方式为：

O(a，b)＝H(a)-H(a|b)

若O(a，b)＝0，则a与b无相关性；O(a，b)的值越大，则a与b相关性越大。