[发明专利]一种基于分布漂移数据集的特征选择方法

权利要求书

1.一种基于分布漂移数据集的特征选择方法，其特征在于，是一种过滤器特征选择方法，包括以下步骤：

步骤1，给定数据集D，特征候选集合F，需要选择的特征数量N；

步骤2，计算特征候选集合F中每个特征的特征相关度分数FRS；其中，所述特征相关度分数FRS是指特征与标签之间的相关程度或重要程度；

步骤3，计算特征候选集合F中每个特征的特征漂移程度分数FSS；其中，所述特征漂移程度分数FSS是指特征分布随时间变化的程度或者特征标签组合随着时间变化的程度；

步骤4，计算特征候选集合F中每个特征的特征泛化能力有效性分数FGES；其中，所述特征泛化能力有效性分数FGES为一种特征评价指标，FGES＝g(FRS，FSS)，其中g为FRS的非减函数，且为FSS的非增函数；其计算综合了所述特征相关度分数FRS和所述特征漂移程度分数FSS；

步骤5，将特征候选集合F的所有特征根据特征泛化能力有效性分数从大到小排序，得到特征排序列表；

步骤6，根据步骤5的特征排序列表，选出特征排序列表的前N个特征，作为最终的特征排序列表。

2.一种基于分布漂移数据集的特征选择方法，其特征在于，是一种包装器特征选择方法，包括以下步骤：

步骤1，给定机器学习模型M，给定数据集D、特征候选集合F，需要初选的特征数量N；

步骤2，计算特征候选集合F中每个特征的特征相关度分数FRS；其中，所述特征相关度分数FRS是指特征与标签之间的相关程度或重要程度；

步骤3，计算特征候选集合F中每个特征的特征漂移程度分数FSS；其中，所述特征漂移程度分数FSS是指特征分布随时间变化的程度或者特征标签组合随着时间变化的程度；

步骤4，计算特征候选集合F中每个特征的特征泛化能力有效性分数FGES；其中，所述特征泛化能力有效性分数FGES为一种特征评价指标，FGES＝g(FRS，FSS)，其中g为FRS的非减函数，且为FSS的非增函数；其计算综合了所述特征相关度分数FRS和所述特征漂移程度分数FSS；

步骤5，将特征候选集合F的所有特征根据特征泛化能力有效性分数从大到小排序，得到特征排序列表；

步骤6，根据步骤5的特征排序列表，选出特征排序列表的前N个特征，作为初选特征排序列表；

步骤7，根据步骤6产生的初选特征排序列表，从前往后依次加入每个特征，依次形成N个特征子集，对每个特征子集训练机器学习模型M的评估效果；

步骤8，当机器学习模型M的效果达到要求或者N个特征都完成循环后，选出表现最好的机器学习模型M对应的特征子集。

3.根据权利要求1或2所述的一种基于分布漂移数据集的特征选择方法，其特征在于，所述特征相关度分数FRS的计算方法为：互信息方法，具体方法为：根据数据集D计算特征候选集合F中的每个特征的特征与标签的互信息，采用特征与标签的互信息作为每个特征的特征相关度分数FRS。

4.根据权利要求1或2所述的一种基于分布漂移数据集的特征选择方法，其特征在于，所述特征相关度分数FRS的计算方法为：分类指标方法，具体方法为：根据数据集D，通过包装器算法计算得出特征候选集合F中的每个特征的AUC指标或分类错误率，采用AUC指标或分类错误率作为每个特征的特征相关度分数FRS。

5.根据权利要求1或2所述的一种基于分布漂移数据集的特征选择方法，其特征在于，所述特征漂移程度分数FSS通过以下方法计算：特征分布KL距离方法，具体方法为：从数据集D中取出不重叠时间范围的两个子集D1和D2，对应的某特征f的分布分别为s1和s2，则FSS(f)＝KL(s1，s2)。

6.根据权利要求1或2所述的一种基于分布漂移数据集的特征选择方法，其特征在于，所述特征漂移程度分数FSS通过以下方法计算：特征标签联合分布KL距离方法，具体方法为：从数据集D中取出不重叠时间范围的两个子集D1和D2，D1和D2中的正例中特征f的分布分别为ps1，ps2，负例中特征f的分布分别为ns1，ns2，根据需要设定正、负例加权系数分别为pw和nw，则FSS＝pw*KL(ps1，ps2)+nw*KL(ns1，ns2)，取pw＝nw＝0.5。