[发明专利]机器学习中基于集成特征选择的不平衡数据处理方法

说明书

本发明设计了机器学习中基于集成特征选择的非平衡数据处理方法，采用Bagging方法和合成少数类过采样技术(Synthetic minority pversampling technique，SMOTE)相结合的方法将多数类样本与少数类样本构造为多个袋装子集，然后利用基于相关性度量的特征选择算法对每个袋装子集中筛选出特征子集，设置阈值得到特征合集，最后利用机器学习算法构建分类模型进行分类研究。

技术领域

本发明涉及数据处理领域，具体设计了一种机器学习中基于集成特征选择的非平衡数据处理方法。

背景技术

随着移动互联网技术的迅猛发展，数据采集与数据传输变得较为便利和快捷，信息技术的难点已经不在数据的获取与传输，而是如何对已知数据高效地处理以及利用，挖掘出其中所存在的有价值信息，从而促进了数据挖掘的飞速发展。但在数据挖掘以及机器学习的研究过程中，我们经常会遇到一个严峻的潜在挑战，那就是如何对“非平衡类别”的数据进行处理。

对非平衡数据集进行分类过程中，传统机器学习分类算法的性能受到很大的阻碍，目前对非平衡数据集的处理方法分别是欠采样方法和过采样方法，但这两种方法都存在一定的缺点，导致预测准确率大大降低且模型的精确度下降。

发明内容

本发明设计一种基于集成特征选择的非平衡数据处理方法，用于解决给定的数据集中存在不平衡数据的问题，为了达到该目的，所述的处理方法是采用集成特征选择的方法，解决了冗余特征导致训练效率降低以及不平衡数据使决策边界发生偏倚的问题，提高了模型精确度和训练效率。

本发明所述的方法首先获取数据，对数据进行整理并分析原始数据集种的初始特征，计算出不同的特征值，得到特征集合，接着对数据进行进一步处理，设计一种集成特征选择方法对所得到的特征集合进行特征选择，寻找最优特征子集来去除冗余特征并且解决数据不平衡问题，提高分类效率，最后将得到的最优特征子集作为输入，采用机器学习分类算法进行训练，构建分类器模型，使用正类正确率(acc+)和负类准确率(acc-)作为性能评价指标。

区别于现有的处理方法，本发明的有益效果是：目前的解决方法不仅会大大提高计算复杂度，易导致模型过拟合，而且会导致模型准确率偏低，此外，目前的大数据时代非平衡数据更加复杂多变，本设计的处理方法可以很好的适用于现阶段的非平衡数据，达到了较好的处理非平衡数据的能力，提高了模型的精确度和训练效率，实用性较高。

附图说明

图1是本发明所述处理非平衡数据的应用框架结构示意图。

图2是本发明集成特征选择方法示意图。

具体实施方式

请参阅图1所示：

1、一种基于集成特征选择的不平衡数据处理方法，其特征在于，所述方法包括以下步骤：

步骤一：首先获取数据，对数据进行整理并分析原始数据集种的初始特征，计算出不同的特征值，得到特征集合，进入步骤二；

步骤二：接着对数据进行进一步处理，设计一种集成特征选择方法对所得到的特征集合进行特征选择，寻找最优特征子集来去除冗余特征并且解决数据不平衡问题，提高分类效率，转入步骤三；

步骤三：最后将得到的最优特征子集作为输入，采用机器学习分类算法进行训练，构建分类器模型，使用正类正确率(acc+)和负类准确率(acc-)作为性能评价指标。

请参阅图2所示：

2、根据权利要求1所述的基于集成特征选择的的不平衡数据处理方法，其特征在于，步骤二中所述集成特征选择方法包括以下步骤：

步骤一：首先采用Filter中的信息增益方法描述特征相关性，进入步骤二；