[发明专利]一种基于梯度提升决策树的模型训练方法及装置

权利要求书

1.一种基于梯度提升决策树的模型训练方法，用于训练应用于目标业务场景的目标模型，所述方法包括：

获取第一样本集合；所述第一样本集合是从源业务场景的数据域获取的已标注样本的集合；所述源业务场景是与所述目标业务场景相近的业务场景；

使用所述第一样本集合，执行梯度提升决策树GBDT算法流程，依次训练至少一个决策树，直至满足预设的训练暂停条件；

根据使用所述第一样本集合训练出的决策树，确定训练残差；

获取第二样本集合；所述第二样本集合是从所述目标业务场景的数据域获取的已标注样本的集合；

使用所述第二样本集合，基于所述训练残差继续执行GBDT算法流程，依次训练至少一个决策树，直至满足预设的训练停止条件；

其中，所述目标模型是由已训练出的决策树集成得到的。

2.如权利要求1所述的方法，所述训练暂停条件，具体包括：

使用所述第一样本集合训练出的决策树的数量达到第一指定数量。

3.如权利要求1所述的方法，所述训练停止条件，具体包括：

使用所述第二样本集合训练出的决策树的数量达到第二指定数量。

4.如权利要求1所述的方法，在使用所述第二样本集合，基于所述训练残差继续执行GBDT算法流程之前，所述方法还包括：

获取第三样本集合；所述第三样本集合是从其他源业务场景的数据域获取的已标注样本的集合；

使用所述第三样本集合，基于所述训练残差继续执行GBDT算法流程，依次训练至少一个决策树，直至满足预设的训练再暂停条件；

根据使用所述第一样本集合训练出的决策树和使用所述第三样本集合训练出的决策树，重新确定所述训练残差。

5.如权利要求4所述的方法，所述训练再暂停条件，具体包括：

使用所述第三样本集合训练出的决策树的数量达到第三指定数量。

6.一种预测方法，包括：

从目标业务场景的数据域获取待预测数据；

根据所述待预测数据，确定所述待预测数据对应的模型输入特征；

将所述模型输入特征输入到应用于所述目标业务场景的预测模型，以输出预测结果；所述预测模型是根据权利要求1～5任一项所述的方法得到的。

7.一种基于梯度提升决策树的模型训练装置，用于训练应用于目标业务场景的目标模型，所述装置包括：

第一获取模块，获取第一样本集合；所述第一样本集合是从源业务场景的数据域获取的已标注样本的集合；所述源业务场景是与所述目标业务场景相近的业务场景；

第一训练模块，使用所述第一样本集合，执行梯度提升决策树GBDT算法流程，依次训练至少一个前决策树，直至满足预设的训练暂停条件；

计算模块，根据使用所述第一样本集合训练出的决策树，确定训练残差；

第二获取模块，获取第二样本集合；所述第二样本集合是从所述目标业务场景的数据域获取的已标注样本的集合；

第二训练模块，使用所述第二样本集合，基于所述训练残差继续执行GBDT算法流程，依次训练至少一个后决策树，直至满足预设的训练停止条件；

其中，所述目标模型是由已训练出的决策树集成得到的。

8.如权利要求7所述的装置，所述训练暂停条件，具体包括：

使用所述第一样本集合训练出的决策树的数量达到第一指定数量。

9.如权利要求7所述的装置，所述训练停止条件，具体包括：

使用所述第一样本集合训练出的决策树的数量达到第二指定数量。