[发明专利]多任务预测模型的训练方法、多任务预测方法及装置

权利要求书

1.一种多任务预测模型的训练方法，其特征在于，所述方法包括：

构建初始多任务预测模型，所述初始多任务预测模型包括：特征补偿模型、多个专家网络、多个门控网络以及多个tower网络，其中，多个门控网络与多个tower网络一一对应，每个tower网络对应一个任务；

通过所述特征补偿模型对训练数据进行特征提取，得到特征补偿数据；

通过多个专家网络分别对所述训练数据进行特征提取，得到多个特征提取数据；

基于每个门控网络，分别对所述特征提取数据进行融合，得到每个门控网络对应的特征融合数据；

通过所述每个tower网络，对相应的tower网络输入数据进行任务预测，以得到所述每个tower网络的任务预测结果，所述tower网络输入数据是根据所述特征补偿数据和相应的门控网络对应的特征融合数据得到的；

基于所述每个tower网络的任务预测结果，对所述初始多任务预测模型进行训练，得到目标多任务预测模型。

2.根据权利要求1所述的方法，其特征在于，所述特征补偿模型包括：

因子分解机FM模型或，引入场的因子分解机FFM模型。

3.根据权利要求1所述的方法，其特征在于，所述基于所述每个tower网络的任务预测结果，对所述初始多任务预测模型进行训练，得到目标多任务预测模型，包括：

基于所述每个tower网络的任务预测结果，通过优化器训练所述初始多任务预测模型，得到目标多任务预测模型。

4.根据权利要求3所述的方法，其特征在于，所述基于所述每个tower网络的任务预测结果，通过优化器训练所述初始多任务预测模型，得到目标多任务预测模型，包括：

根据所述每个tower网络的任务预测结果以及第一损失函数，确定所述每个tower网络对应的损失；

基于所述每个tower网络对应的损失，确定目标损失；

基于所述目标损失，通过优化器训练所述初始多任务预测模型，得到目标多任务预测模型。

5.根据权利要求3所述的方法，其特征在于，所述基于所述每个tower网络的任务预测结果，通过优化器训练所述初始多任务预测模型，得到目标多任务预测模型，包括：

基于所述每个tower网络的任务预测结果对应的权重，对所述每个tower网络的任务预测结果进行加权，得到目标预测结果；

基于所述目标预测结果，通过优化器训练所述初始多任务预测模型，得到目标多任务预测模型。

6.根据权利要求5所述的方法，其特征在于，所述基于所述目标预测结果，通过优化器训练所述初始多任务预测模型，得到目标多任务预测模型，包括：

根据所述目标预测结果以及第二损失函数，确定所述初始多任务预测模型对应的损失；

基于所述初始多任务预测模型对应的损失，通过优化器训练所述初始多任务预测模型，得到目标多任务预测模型。

7.根据权利要求1至6中任一项所述的方法，其特征在于，所述tower网络的输入数据包括所述特征补偿数据和所述每个门控网络对应的特征融合数据；

或者，

所述tower网络的输入数据是由所述特征补偿数据和所述每个门控网络对应的特征融合数据加权得到的。

8.一种多任务预测方法，其特征在于，包括：

获取待预测数据；

将所述待预测数据输入到目标多任务预测模型，以得到每个tower网络对应的任务预测结果；

其中，所述目标多任务预测模型通过如权利要求1～7中任一项所述的方法进行训练得到。