[发明专利]一种集成多任务模型的方法和装置

权利要求书

1.一种集成多任务模型的方法，所述多任务模型当前包括与n个子任务分别对应的n个子模型，所述方法包括：

基于预设的m个子网络，获取多个候选模型，每个候选模型通过将所述m个子网络中的一个子网络添加到所述多任务模型的n个子模型中至少一个子模型中而获取，其中，所述m个子网络具有不同的网络结构；

使用预先准备的多个训练样本分别训练所述多个候选模型，其中，每个训练样本包括样本特征、与n个子任务分别对应的n个标签值；

使用预先准备的多个评估样本分别评估所述多个经训练的候选模型和当前的多任务模型，其中，每个评估样本包括样本特征、与n个子任务分别对应的n个标签值；

基于对各个候选模型和当前多任务模型的评估，在所述多个候选模型中的至少一个候选模型优于所述当前的多任务模型的情况中，从所述多个候选模型中确定最优候选模型作为更新的多任务模型。

2.根据权利要求1所述的方法，其中，每个子网络具有其预定层数、每层的预定神经元数、以及预定的每层与上一层的连接方式。

3.根据权利要求1所述的方法，其中，所述多个候选模型包括m*(2ⁿ-1)个候选模型。

4.根据权利要求1所述的方法，其中，使用预先准备的多个评估样本分别评估所述多个经训练的候选模型和当前的多任务模型包括，基于以下任一评估指标评估所述多个经训练的候选模型和当前的多任务模型：模型预测损失、AUC、准确率、精确率、召回率。

5.根据权利要求1所述的方法，其中，使用预先准备的多个训练样本分别训练所述多个候选模型包括，基于第一损失函数，使用预先准备的多个训练样本分别训练所述多个候选模型，其中，对于每个候选模型，所述第一损失函数中包括该候选模型中包括的各个子模型的预测损失。

6.根据权利要求5所述的方法，其中，所述第一损失函数中还包括与该候选模型中包括的每个子模型相关的正则项。

7.根据权利要求1所述的方法，其中，所述n个子任务包括预测商品点击率的第一任务和预测商品转换率的第二任务。

8.根据权利要求1所述的方法，其中，在每个候选模型中，所述添加的子网络与其所属的子模型之间的连接关系为预定多个连接关系中的一种。

9.一种集成多任务模型的装置，所述多任务模型当前包括与n个子任务分别对应的n个子模型，所述装置包括：

获取单元，配置为，基于预设的m个子网络，获取多个候选模型，每个候选模型通过将所述m个子网络中的一个子网络添加到所述多任务模型的n个子模型中至少一个子模型中而获取，其中，所述m个子网络具有不同的网络结构；

训练单元，配置为，使用预先准备的多个训练样本分别训练所述多个候选模型，其中，每个训练样本包括样本特征、与n个子任务分别对应的n个标签值；

评估单元，配置为，使用预先准备的多个评估样本分别评估所述多个经训练的候选模型和当前的多任务模型，其中，每个评估样本包括样本特征、与n个子任务分别对应的n个标签值；

确定单元，配置为，基于对各个候选模型和当前多任务模型的评估，在所述多个候选模型中的至少一个候选模型优于所述当前的多任务模型的情况中，从所述多个候选模型中确定最优候选模型作为更新的多任务模型。

10.根据权利要求9所述的装置，其中，每个子网络具有其预定层数、每层的预定神经元数、以及预定的每层与上一层的连接方式。

11.根据权利要求9所述的装置，其中，所述多个候选模型包括m*(2ⁿ-1)个候选模型。

12.根据权利要求9所述的装置，其中，所述评估单元还配置为，基于以下任一评估指标评估所述多个经训练的候选模型和当前的多任务模型：模型预测损失、AUC、准确率、精确率、召回率。