[发明专利]一种增量式的梯度提升决策树更新方法

权利要求书

1.一种增量式的梯度提升决策树更新方法，其特征在于，依次包括以下步骤：

A：对增量数据集与原始数据集进行排序归并，形成合并了新的数据块后的当前最新有序数据集；

B：分别计算每个结点在当前最新有序数据集上的最新最佳分裂属性和分裂值；

C：对决策树中的每个结点，基于合并了新的数据块后的当前最新有序数据集，首先利用步骤B计算得到的最新最佳分裂属性，与新的数据块到来前该结点上最佳分裂属性进行对比；当最新最佳分裂属性和新的数据块到来前该结点上的最佳分裂属性相同时，仅更新该结点上该属性的分裂值，否则进一步判断该结点是决策树的中间结点还是根结点；如果该结点是决策树的中间结点，则基于CART决策树算法中构建二叉决策树的方法，使用前一棵决策树对应的最新残差，从该中间结点起重新训练一棵新的子树，替代原有的以该中间结点作为根结点的子树，若该结点所在决策树为第一棵决策树，则使用当前最新有序数据集中每一个实例目标列的值减去所有实例目标列的平均值作为最新残差；如果该结点是根结点，则基于CART决策树算法中构建二叉决策树的方法，使用前一棵决策树对应的最新残差，重新训练一个新的决策树，替代原有的当前根结点所在的整棵决策树，若该结点所在决策树为第一棵决策树，则使用当前最新有序数据集中每一个实例目标列的值减去所有实例目标列的平均值作为最新残差；每当更新完一个决策树，使用已更新完的决策树对新数据集的目标列进行残差更新，迭代地更新每一棵决策树及新数据集目标列的残差值，直到数据分类模型更新完毕。

2.根据权利要求1所述的增量式的梯度提升决策树更新方法，其特征在于，所述的步骤A包括以下步骤：

A1：在一个或多个新的数据块实时到达后，首先对新的数据块上的各个属性进行单独排序，然后为每个属性独立生成一个排序后的数据集；

A2:使用排序归并策略，依次将新的数据块上为每个属性独立生成的排序后的数据集和该属性原有的基于原始数据集排序的数据集进行合并。

3.根据权利要求2所述的增量式的梯度提升决策树更新方法，其特征在于，所述的步骤A2中合并方法如下：

步骤1：为每个属性原有的基于原始数据集排序的数据集OriData_i设置指针P₁，为新的数据块上对该属性独立生成的排序后的数据集NewData_i设置指针P₂；首先使用指针P₂获得数据集NewData_i中的第一个值V₂，并与指针P₁所指向的数据集OriData_i中的第一个值V₁进行比较：

如果V₂大于V₁，则指针P₁向前移动，指向数据集OriData_i的下一个值，直到P₁所指向的值大于或等于V₂，此时将指针P₂获得的数据集NewData_i中的当前值V₂即新属性值，插入数据集OriData_i中P₁所指向的位置上，即指针P₁指向插入的新属性值，然后指针P₂向前移动指向数据集NewData_i的下一个值；

如果V₂小于或等于V₁，则将指针P₂获得的数据集NewData_i中的当前值V₂即新属性值，直接插入到数据集OriData_i中P₁所指向的位置之前，指针P₁位置不变即指针P₁仍指向原属性值V₁，且数据集NewData_i上的指针P₂向前移动指向数据集NewData_i中的下一个值；

步骤2：迭代执行步骤1，直到数据集NewData_i中的值完全插入数据集OriData_i中，即新的数据集NewData_i与原数据集OriData_i的合并完成，最后得到的数据集OriData_i即为该属性T_i对应的最新有序数据集OriData_i’。