[发明专利]基于不确定连续属性的决策树分类器构建方法

权利要求书

1.基于不确定连续属性的决策树分类器构建方法，本发明涉及机器学习、人工智能以及数据挖掘领域，具体涉及一种基于不确定连续属性的决策树分类器构建方法，其特征是，包括如下步骤：

步骤1：设不确定连续属性训练集中有X个样本，属性个数为n，即同时分裂属性对应了m个类L，其中其中属性值具有连续不确定性

步骤2：把不确定连续数据属性的属性值合并排序，根据类对不确定性数据属性进行属性值运算，记为概率和对类进行处理得每一分支属性值的概率势

步骤3：创建根节点G

步骤4：如果训练数据集为空，则返回节点G并标记失败

步骤5：如果训练数据集中所有记录都属于同一类别，则该类型标记节点G

步骤6：如果候选属性为空，则返回G为叶子结点，标记为训练数据集中最普通的类

步骤7：由于连续属性值的不确定性，根据下面目标函数从候选属性中选择

步骤8：标记节点G为属性

步骤9：由节点延伸出满足条件为分支以及子分支,如果满足以下两条件之一，就停止建树

9.1这里假设为训练数据集中的样本集合，如果为空，加上一个叶子结点，标记为训练数据集中最普通的类

9.2此节点中所有例子属于同一类

步骤10：非9.1与9.2中情况，则递归调用步骤7至步骤9

步骤11：保存已生成的连续不确定性属性的决策树分类器。

2.根据权利要求1中所述的基于不确定连续属性的决策树分类器构建方法，其特征是，步骤2中的具体表述过程如下：

步骤2：把不确定连续数据属性的属性值合并排序，根据类对不确定连续数据属性进行属性值运算，记为概率和对类进行处理得每一分支属性值的概率势，其具体运算过程如下：

不确定连续属性，其取值为一个概率向量，记为

且，所以之前那些确定的连续属性可以看作为这一特殊情况，即属性中属性值其他概率为0的情形

不确定连续属性值在每个区间上都存在最大值和最小值端点，这种数值表示方式是出于保护客户隐私为目的，不确定连续属性的处理过程是将所有出现的关键点按升序排列，合并重复点，这样属性整个取值区间就被分割成多个子区间

每个用例的取值区间会覆盖一个或多个子区间

假设任意一子集区间为，则其在区间的概率分布为：

上式f(x)为此事件发生的概率分布，具体事件具体分析，这个由相应的专家确定，每个不确定连续属性的概率分布函数普遍相同

属性在区间的概率和为：

上式k为属性对应的属性值个数

根据属性值对应的类在区间的概率势为：

上式为属性值对应的类的种类，为在属性值对应的类中为类

为属性值根据类来取概率和，类L总共为m个。

3.根据权利要求1中所述的基于不确定连续属性的决策树分类器构建方法，其特征是，步骤7中的具体计算过程如下：

步骤7：由于连续属性值的不确定性，根据下面目标函数从候选属性中选择，其集体计算过程如下：

目标函数：

上式为类，为步骤2中的属性的概率势，步骤2中属性的属性值关于类的概率势，j为属性值个数

当选择属性满足目标函数越大时，则找到标记节G。

4.根据权利要求1中所述的基于不确定连续属性的决策树分类器构建方法，其特征是，步骤9中的具体阐述过程如下：

步骤9：由节点延伸出满足条件为分支以及子分支,如果满足以下两条件之一，就停止建树

9.1这里假设为训练数据集中的样本集合，如果为空，加上一个叶子结点，标记为训练数据集中最普通的类

9.2此节点中所有例子属于同一类

分支叶子节点的确定先对比训练集再由值大小确定，即

通过上式就可以确定叶子结点。