[发明专利]基于改进随机森林的客户信用分类方法

说明书

本发明公开了一种基于改进随机森林的客户信用分类方法，包括如下步骤：将客户样本数据集划分为训练数据集和测试数据集；在训练数据集上用CART分类回归树算法训练生成包含m棵树的初始随机森林模型；将测试数据集输入初始随机森林模型，计算每棵决策树分类结果的相似度和精确度；根据相似度和精确度，计算每棵决策树的综合性能指标；取前s个具有较高综合指标的决策树构成改进后的随机森林模型。本发明结合随机森林中决策树的相似度和精确度，有效地提高了客户信用分类随机森林的分类准确性和泛化能力；定义了新的评价决策树的综合性能指标，有效地在精确度和相似度之间进行折中，并且很容易拓展应用于其他分类场景中，具有广泛的实用价值。

技术领域

本发明涉及数据分类领域，具体涉及一种基于改进随机森林的客户信用分类方法。

背景技术

随机森林是一种典型的组合分类器算法，是由多棵决策树组成的，在数据分类问题上是一个非常有用的方法。随机森林具有良好的性能和优点，它克服了数据过拟合的问题，被广泛应用于金融决策、负载预测、图像分类等领域。

随机森林模型的构建主要分为四步:①基于原始训练集生成训练子集；②对随机特征进行选取；③根据训练子集和决策树生成算法生成决策树集合；④生成的每一棵决策树都对测试机进行预测分类，然后对结果进行投票，得出最终的分类结果。

尽管许多学者对随机森林算法进行了广泛研究，并且取得了许多显著的成果。却仍然存在一些不足之处。由于数据集的复杂性，随机森林模型中会包含一些分类精确度差的决策树，而这些决策树会在最后的投票过程中对最终结果产生消极的影响。此外，随机化过程会生成相似度高的决策树，从而影响随机森林模型整体的分类性能，对决策树的多样性，即泛化能力产生消极影响。

发明内容

发明目的：本发明目的是提供一种基于改进随机森林的客户信用分类方法，去除分类精度差和相似度高的决策树，提高客户信用分类随机森林的分类准确性和泛化能力。

技术方案：一种基于改进随机森林的客户信用分类方法，包括如下步骤：

步骤1：将客户样本数据集划分为训练数据集和测试数据集；

步骤2：在训练数据集上用CART分类回归树算法训练生成包含m棵树的初始随机森林模型；

步骤3：将测试数据集输入初始随机森林模型，计算每棵决策树分类结果的相似度和精确度；

步骤4：根据相似度和精确度，计算每棵决策树的综合性能指标；

步骤5：取前s个具有较高综合指标的决策树构成改进后的随机34森林模型。

进一步地，步骤1具体包括：

D为客户样本数据集，d_i∈D为客户样本数据集中的任一样本，d_i＝{特征变量集，L_i}，特征变量集包括借款金额、借款利率、借款期限、初始信用评级、年龄、历史借款总金额、待还本金、历史正常还款期数的用户特征，L_i为客户信用分类，L_i∈[1,c]，c为信用分类数，表示共有c个不同信用级别；按均匀分布随机地将客户样本数据集D划分为训练数据集和测试数据集。

进一步地，按均匀分布随机地将客户样本数据集D中80％的样本划分为训练数据集F，20％样本划分为测试数据集G。

进一步地，步骤2具体包括：在训练数据集上训练随机森林模型，生成包含m棵树的初始随机森林模型，训练时m的值取100。

进一步地，相似度由Kappa统计量确定，计算方法如下：