[发明专利]基于不确定连续属性的决策树分类器构建方法

说明书

技术领域

本发明涉及机器学习、人工智能以及数据挖掘领域，具体涉及一种基于不确定连续属性的决策树分类器构建方法。

背景技术

决策树研究是数据挖掘和机器学习中的一项重要和积极的研究课题。其所提出的算法被广泛地应用于实际问题当中，如ID₃，CART和C4.5，此类算法主要是研究准确率的问题。随着科学技术的进步，近年来，不确定数据频繁地出现在现实应用中，包括无线传感器网络、无线射频识别、隐私保护等领域。其数据特点是数据值并非是确定的，即表示一个数据点，其表示方式是将多种取值作为一个整体，按照某种概率分布作为每个取值对应出现可能性，其越来越频繁的出现促使相关的研究得到了广泛关注和快速发展。而传统数据挖掘技术中往往忽略了数据中的不确定性，其研究模型与客观世界不符。所以不确定数据挖掘技术对数据挖掘技术的实际应用有着重要意义。属性的不确定性包括离散属性和连续属性，在训练和测试的过程中，为了保证有效的评估模型，验证分类器的性能，数据集中的类别都是已知的。这里主要是针对于不确定连续属性的分类与预测，另外由于测量仪器受精度的影响，采集的数据往往包含一定的误差，不是完全准确的，为了提高不确定连续属性的分类准确率，本发明提出基于不确定连续属性的决策树分类器构建方法。

发明内容

针对于解决不确定连续属性分类与预测的问题以及提高对其分类、预测的准确率问题，本发明提出了基于不确定连续属性的决策树分类器构建方法。

为解决上述问题，本发明是通过以下技术方案实现的：

基于不确定连续属性的决策树分类器构建方法，包括如下步骤：

步骤1：设不确定连续属性训练集中有X个样本，属性个数为n，即n＝(S₁，S₂，…S_n),同时分裂属性S_i对应了m个类L，其中L_r∈(L₁，L₂…，L_m),i∈(1，2…，n)，r∈(1，2…，m)。S_i∈(S₁，S₂，…S_n)，其中属性值具有连续不确定性。

步骤2：把不确定连续数据属性S_i的属性值S_ij合并排序，根据类对不确定性数据属性S_i进行属性值S_ij运算，记为概率和P(S_ij),对类进行处理得每一分支属性值的概率势P(S_ij，L_r)。

步骤3：创建根节点G。

步骤4：如果训练数据集为空，则返回节点G并标记失败。

步骤5：如果训练数据集中所有记录都属于同一类别，则该类型标记节点G。

步骤6：如果候选属性为空，则返回G为叶子结点，标记为训练数据集中最普通的类。

步骤7：由于连续属性值的不确定性，根据下面目标函数从候选属性中选择splitS_i。

步骤8：标记节点G为属性splitS_i。

步骤9：由节点延伸出满足条件为splitS＝splitS_i分支以及splitS_i＝splitS_ij子分支,如果满足以下两条件之一，就停止建树。

9.1这里假设Y_i为训练数据集中splitS＝splitS_i的样本集合，如果Y_i为空，加上一个叶子结点，标记为训练数据集中最普通的类。

9.2此节点中所有例子属于同一类。

步骤10：非9.1与9.2中情况，则递归调用步骤7至步骤9。

步骤11：保存已生成的连续不确定性属性的决策树分类器。

本发明有益效果是：

1、构成的决策树更好的规避了信息偏置为数量级大的问题。

2、可以实现对象为不确定连续属性的归类和预测功能。

3、此构建的决策树分类准确度高。

4、此构建的决策树更适用于对实际数据挖掘问题的应用。

附图说明

图1为基于不确定连续属性的决策树分类器构建流程图。

具体实施方式

为解决不确定连续属性分类、预测问题以及提高对其分类、预测的准确率问题，结合图1对本发明进行了详细说明，其具体实施步骤如下：