[发明专利]基于特征间关系合成少数类样本的不平衡数据处理方法

说明书

本发明涉及一种基于特征间关系合成少数类样本的不平衡数据处理方法。其步骤为：首先，在对少数类数据采样时，面对高维且具有冗余特征的数据，冗余特征会影响采样算法的性能，引入基于多目标的pareto前沿特征方法，使用AUC值，F_score值，G_mean值三个评价指标作为适应度函数，通过不断的迭代优化，选出三个评价指标都较高的pareto前沿特征；接着再对少数类样本的pareto前沿特征进行特征采样，使用XGBoost回归捕获特征间的关系，在生成样本的同时考虑新样本的质量问题，为了评价新样本的质量，设计了一个基于欧氏距离计算样本质量的评价指标DIS。最后将新生成的样本加入到原始的数据集中，合成多个平衡样本集，使用多数投票集成输出最终的分类结果。

技术领域

本发明涉及机器学习和数据挖掘技术领域，具体涉及一种基于特征间关系合成少数类样本的不平衡数据处理方法。

背景技术

随着医疗、安全、互联网和金融等许多大规模、复杂和网络化系统中数据可用性的不断扩大，如何对数据进行智能化处理，提取数据中有价值信息已成为理论和应用的研究热点。虽然现有的知识发现和数据工程技术已经在许多现实世界的应用中取得了巨大的成功，但从不平衡数据中学习的问题仍是一个相对困难的挑战，不平衡数据在不同生活领域中是一种普遍的现象，错分少数类的代价极其昂贵，已经吸引了学术界和工业界越来越多的关注。不平衡学习是指原始数据集中存在严重的类分布失衡问题，严重影响了大多数标准机器分类算法的性能。在不平衡数据集中，只有很小一部分样本的数据被称为少数类，而代表良好的负类被称为多数类。在这种情况下，标准分类器往往会被多数类样本影响，忽略少数类样本，其性能并不令人满意。

在处理不平衡数据集的预测问题时，传统的分类器倾向于将少数类的样本误分为多数类，以提高整体样本的分类准确率，比如数据集中90％的样本为多数类， 10％的样本为少数类，分类器倾向于将10％的少数类样本全部预测为多数类，则整体预测准确率可高达90％，但这些典型分类器对少数类的识别率很差。

因此，数据分布不平衡的问题引起了众多研究者的关注，并提出了处理不平衡数据的多种方法，主要包括以下三个层面：数据重采样层面，特征降维层面，代价敏感集成分类层面等；而数据重采样方法能直接处理数据不平衡的问题且此方法易于实现，因此，将其作为处理不平衡数据中应用最广泛的方法之一。但在大多数情况下，在进行过采样或欠采样时，并没有考虑底层数据特征间的关系，过采样可能导致过拟合问题，而欠采样可能会丢弃信息量较大样本。

发明内容

有鉴于此，本发明针对传统采样算法处理不平衡数据时的不足，提供一种基于特征间关系合成少数类样本的不平衡数据处理方法。

为解决现有技术存在的问题，本发明所采用的技术方案为：基于特征间关系合成少数类样本的不平衡数据处理方法，其特征在于：步骤为：

1)多目标优化选择最优pareto前沿特征

1.1)令maxS(c)＝(F(D,c),G(D,c),A(D,c),P(c))为待优化的多目标函数，同时优化四个评价指标；

1.2)初始化种群作为一个一维向量，元素由0、1组成；

1.3)种群变异：以的概率随机翻转c中的任一个元素，生成方案c′；

1.4)分类器评价适应度值，如果在四个评价指标上，c′都占优于c，则更新pareto前沿个体，若c′其中一个目标优于c的一个目标，而其余的目标都劣于c的目标，则他们都不满足任一方占优于另一方的情况，那么将这两个解决方案继续加入父代种群中，进行变异操作；

1.5)更新pareto前沿个体，重复以上步骤，直到达到最大迭代次数；

1.6)输出N组pareto前沿特征；

2)pareto前沿特征进行重采样；在生成新样本的同时，使用提出的样本评价指标进行筛选样本；