[发明专利]一种缓解多任务学习中任务冲突方法、装置及存储介质

权利要求书

1.一种缓解多任务学习中任务冲突的方法，其特征在于，包括：

获取待缓解多任务学习模型中各个学习任务的梯度值；

任意选取一学习任务作为选定学习任务，根据所述选定学习任务执行梯度值更新；其中，所述梯度值更新具体包括：根据所述选定学习任务的梯度值以及其余各学习任务的梯度值，逐一判断所述选定学习任务与其余各学习任务之间是否存在任务冲突；在每一次判定存在任务冲突时，对所述选定学习任务的梯度值进行梯度修剪，并将所述选定学习任务的梯度值更新为修剪后的梯度值，根据所述选定学习任务更新后的梯度值继续判断所述选定学习任务与其余各学习任务之间是否存在任务冲突；

在所述梯度值更新执行完毕后，重新选取一学习任务作为更新后的选定学习任务，并重复执行所述梯度值更新，直至所有所述学习任务的梯度值更新完毕；

计算所有所述学习任务完成梯度值更新后的梯度值的平均值，获得平均梯度，根据所述平均梯度对所述待缓解多任务学习模型的网络参数进行更新。

2.如权利要求1所述的缓解多任务学习中任务冲突的方法，其特征在于，所述获取待缓解多任务学习模型中各个学习任务的梯度值，具体包括：

计算每一所述学习任务的损失值，继而根据每一所述学习任务的损失值计算每一所述学习任务对所述待缓解多任务学习模型中网络参数的偏导数，获得每一所述学习任务的梯度值。

3.如权利要求2所述的缓解多任务学习中任务冲突的方法，其特征在于，所述对所述选定学习任务的梯度值进行梯度修剪，具体包括：

根据所述选定学习任务的梯度值以及冲突学习任务的梯度值，确定所述选定学习任务与所述冲突学习任务的冲突平面；其中，所述冲突学习任务为与所述选定学习任务存在任务冲突的学习任务；

分别计算所述选定学习任务以及所述冲突学习任务在所述冲突平面上的梯度分量，继而根据所述梯度分量计算选定学习任务与所述冲突学习任务之间的梯度分量差值；

根据所述梯度分量差值对所述选定学习任务的梯度值进行梯度值修剪，获得修剪后的梯度值。

4.如权利要求3所述的缓解多任务学习中任务冲突的方法，其特征在于，所述根据所述选定学习任务的梯度值以及冲突学习任务的梯度值，确定所述选定学习任务与所述冲突学习任务的冲突平面，具体包括：

通过以下公式确定所述选定学习任务与所述冲突学习任务的冲突平面：

P_γ＝g_i-g_j；

其中，g_i为所述选定学习任务的梯度值，g_j为所述冲突学习任务的梯度值。

5.如权利要求4所述的缓解多任务学习中任务冲突的方法，其特征在于，所述分别计算所述选定学习任务以及所述冲突学习任务在所述冲突平面上的梯度分量，继而根据所述梯度分量计算选定学习任务与所述冲突学习任务之间的梯度分量差值，具体包括：

通过以下公式计算所述选定学习任务以及所述冲突学习任务与所述冲突平面的夹角的余弦值；

通过以下公式计算所述选定学习任务以及所述冲突学习任务在所述冲突平面上的梯度分量：

Δg_i＝g_i·cosφ_i，Δg_j＝g_j·cosφ_j；

通过以下公式计算所述梯度分量计算选定学习任务与所述冲突学习任务之间的梯度分量差值：

Δg_{i，j}＝||g_i·cosφ_i-g_j·cosφ_j||；

其中，cosφ_i为所述选定学习任务与所述冲突平面的夹角的余弦值，cosφ_j为所述冲突学习任务与所述冲突平面的夹角的余弦值，Δg_i为所述选定学习任务在所述冲突平面上的梯度分量，Δg_j为所述冲突学习任务在所述冲突平面上的梯度分量。