[发明专利]一种基于森林算法的特征选择方法、装置及系统

权利要求书

1.一种基于森林算法的特征选择方法，其特征在于，所述方法包括如下步骤：

初始化数据集，确定每个特征子集大小；

遍历所述数据集中所有特征，将所述所有特征进行分组；

计算每个所述特征子集需添加的邻居特征子集数量，将所述邻居特征子集加入所述数据集；

提取部分特征子集构建候选集；

选择所述候选集中的部分特征子集，遍历该部分特征子集，将该部分特征子集加入所述数据集；

确定所述数据集的最优特征子集，继续计算所述最优特征子集需添加的邻居特征子集数量，满足迭代次数时停止，得到全局最优特征子集。

2.根据权利要求1所述的方法，其特征在于，所述初始化数据集，确定每个特征子集大小，进一步包括：

确定所述特征子集大小；

初始化所述特征子集的每个特征，每个所述特征随机初始化特征值为0或1；

设置所有所述特征子集的当前值为0。

3.根据权利要求2所述的方法，其特征在于，所述特征子集大小通过选址机制确定，所述选址机制为：

其中，f表示原始数据集中的特征数量，sf表示特征子集中初始化特征值为1的特征数量，l表示f与sf的距离，P(sf)表示决定初始化特征数量sf的权重值。

4.根据权利要求3所述的方法，其特征在于，所述遍历所述数据集中所有特征，将所述所有特征进行分组，进一步包括：

遍历所述数据集中所有特征，分别计算所有所述特征的重要度；

依次排序每个所述特征的重要度；

按照所述重要度将所有所述特征分为高质量特征组和低质量特征组，所述高质量特征组中最低的重要度不低于所述低质量特征组中任意特征的重要度。

5.根据权利要求4所述的方法，其特征在于，所述计算每个所述特征子集需添加的邻居特征子集数量，将所述邻居特征子集加入所述数据集，进一步包括：

遍历当前值为0的特征子集，计算所述特征子集的待添加邻居特征子集的数量；

从所述高质量特征组随机选取|a-α|个特征添加到当前邻居特征子集，且从所述低质量特征组随机选取|b-β|个特征并从当前邻居特征子集中移除对应的特征，其中，a表示高质量特征组的特征数量，α表示增加特征的数量，b表示低质量特征组的特征数量，β表示移除当前特征子集中特征的数量，α＝λ*sf，β＝(1-λ)*sf，λ为常数；

设置所述邻居特征子集的当前值为0，并加入所述数据集中。

6.根据权利要求5所述的方法，其特征在于，所述提取部分特征子集构建候选集，进一步包括：

计算所述数据集中每一所述特征子集的适应度并排序；

选择适应度低的特征子集构建候选集，所述适应度值低的特征子集的数量为所述数据集中所有特征子集的数量与预设最大约定数量的差值。

7.根据权利要求6所述的方法，其特征在于，所述选择所述候选集中的部分特征子集，遍历该部分特征子集，将该部分特征子集加入所述数据集，进一步包括：

从所述候选集中选取部分特征子集；

遍历所述选取的每个特征子集，从所述低质量特征组随机选取一定数量的特征添加到当前特征子集，且从所述高质量特征组随机选取一定数量的特征并从当前特征子集中移除对应的特征；

设置当前特征子集的当前值为0，并加入所述数据集中。

8.根据权利要求7所述的方法，其特征在于，所述确定所述数据集的最优特征子集，继续计算每个所述特征子集需添加的邻居特征子集数量，满足迭代次数时停止，得到全局最优特征子集，进一步包括

根据所述数据集中特征子集的适应度进行排序,确定适应度最高的特征子集为最优特征子集；

设置所述最优特征子集的当前值为0，跳转计算所述最优特征子集需添加的邻居特征子集数量，直到满足迭代次数时停止。