[发明专利]一种增量式的梯度提升决策树更新方法

摘要

本发明公开了一种增量式的梯度提升决策树更新方法，包括以下步骤A对增量数据集与原始数据集进行排序归并得到当前最新有序数据集；B分别计算每个结点在当前最新有序数据集上的最新最佳分裂属性和分裂值；C利用最新最佳分裂属性与新的数据块到来前该结点上最佳分裂属性的对比结果进行数据分类模型更新。本发明能够在新数据集批量到来的情况下，以增量式的方法快速更新已有数据分类模型，不需要重新训练一个新的梯度提升决策树分类模型，而是在现有模型的基础上进行更新，从而极大地减少了建立数据分类模型的时间，提高了模型的训练速度，节约了大量的时间成本。

主权项

一种增量式的梯度提升决策树更新方法，其特征在于，依次包括以下步骤：A：对增量数据集与原始数据集进行排序归并，形成合并了新的数据块后的当前最新有序数据集；B：分别计算每个结点在当前最新有序数据集上的最新最佳分裂属性和分裂值；C：对决策树中的每个结点，基于合并了新的数据块后的当前最新有序数据集，首先利用步骤B计算得到的最新最佳分裂属性，与新的数据块到来前该结点上最佳分裂属性进行对比；当最新最佳分裂属性和新的数据块到来前该结点上的最佳分裂属性相同时，仅更新该结点上该属性的分裂值，否则进一步判断该结点是决策树的中间结点还是根结点；如果该结点是决策树的中间结点，则基于CART决策树算法中构建二叉决策树的方法，使用前一棵决策树对应的最新残差，从该中间结点起重新训练一棵新的子树，替代原有的以该中间结点作为根结点的子树，若该结点所在决策树为第一棵决策树，则使用当前最新有序数据集中每一个实例目标列的值减去所有实例目标列的平均值作为最新残差；如果该结点是根结点，则基于CART决策树算法中构建二叉决策树的方法，使用前一棵决策树对应的最新残差，重新训练一个新的决策树，替代原有的当前根结点所在的整棵决策树，若该结点所在决策树为第一棵决策树，则使用当前最新有序数据集中每一个实例目标列的值减去所有实例目标列的平均值作为最新残差；每当更新完一个决策树，使用已更新完的决策树对新数据集的目标列进行残差更新，迭代地更新每一棵决策树及新数据集目标列的残差值，直到数据分类模型更新完毕。