[发明专利]一种利用随机森林进行业务分类的方法

说明书

本发明公开了一种利用随机森林进行业务分类的方法，包括以下步骤：S1.收集M个业务集及其所具有的参数集；S2.设置需要的分类参数集,共i个；S3.通过袋装算法Bagging生成k个样本业务集；S4.通过k个样本业务集，产生k个分类树，并通过基尼指数对业务集进行划分，将具有最小基尼指标的参数作为该节点的分裂指标。本发明通过随机森林算法，采用袋装算法实现样本集随机抽取；产生可以对业务集大且分类参数较多的分类与预测，并实现叶子结点纯度达到最大。

技术领域

本发明涉及计算机领域，尤其涉及一种利用随机森林进行业务分类的方法。

背景技术

分类树是决策树(Decision tree)的分类方法的一种，通过构建二叉树方法进行目的预测，也称分类决策树。分类树采用自顶向下的递归方法，根据信息的特征差异进行分裂，直至每个叶子纯度达到最大。

目前分类树大部分用于对业务集进行分类，通过Bagging算法，对业务集进行多轮训练，提高分类的稳定性，再通过采用投票的方式，对测试样本类别进行预测。但是这种传统利用分类树对业务进行分类的方法，往往会因为样本类别过多，导致出现分类错误的情况。

现有技术中存在以下缺陷：

(1)对于业务集数量较大的系统，往往会出现无法实现准确、合理、深层次分类；

(2)部分分类树没有采用袋装算法，导致样本集不是通过随机抽取的方式产生的；

(3)对于参数较多的分类时，往往会出现分类错误。

发明内容

本发明的目的在于，针对上述问题，提出一种利用随机森林进行业务分类的方法。

本发明的发明目的是通过以下技术方案实现的：一种利用随机森林进行业务分类的方法，包括以下步骤：

S1.收集M个业务集及其所具有的参数集{g_i，i＝1,2,……n}；

S2.设置需要的分类参数集{h_i，i＝1,2,……n}，共i个；并设置分类参数；

S3.通过袋装算法Bagging生成k个样本业务集；

S4.构建分类树。

其中，所述的步骤S2的分类参数，通过业务具有的特征进行设置；

所述的步骤S3，包括以下子步骤：

S301.设定所需生成的样本业务集数量k个；

S302.从M个业务集中独立地、随机地、有放回地抽取m个数据，形成一个新的样本业务集；

S303.重复步骤S301，产生多个独立的样本业务集；直至生成k个样本业务集。所述的步骤S4，一个样本业务集用于构建一颗分类树，k个样本业务集则产生k个分类树，包括以下子步骤：

S401.在分类树的每个内部节点处从{h_i，i＝1,2,……n}分类参数集中随机挑选mtry个参数作为候选参数(mtryn)；

S402.按照节点不纯度最小的原则从步骤S401所述的mtry个候选参数中选择一个最优参数对节点进行分裂生长；

S403.通过每棵分类树充分生长直到每个叶子节点的不纯度达到最小。所述的最优参数，通过基尼指数进行选择，具体为：

基尼指标的定义如下：

其中的是参数j在节点处t的概率；

当在业务集划分为m个部分时的基尼指数为：