[发明专利]一种基于Airflow的模型训练调度方法及装置

权利要求书

1.一种基于Airflow的模型训练调度方法，其特征在于，所述方法包括：

确定多个模型训练任务；

确定多个服务器节点任务；

确定每一所述服务器节点任务对应的子级工作流；每一所述子级工作流中均包括有同一个模型调度函数；所述模型调度函数用于在所述子级工作流存在处理空闲时，为所述子级工作流从所述多个模型训练任务中确定出当前可进行的目标模型训练任务，并根据所述目标模型训练任务为所述子级工作流生成对应的训练节点任务；

执行所有所述服务器节点任务对应的子级工作流以完成所述多个模型训练任务。

2.根据权利要求1所述的基于Airflow的模型训练调度方法，其特征在于，所述确定多个服务器节点任务，包括：

确定父级工作流以及对应的父级工作流参数；所述父级工作流中包括多个服务器节点任务；所述父级工作流参数中包括父级并行度参数，所述父级并行度参数用于指示所述父级工作流中可以同时执行的节点任务的数量。

3.根据权利要求2所述的基于Airflow的模型训练调度方法，其特征在于，所述确定每一所述服务器节点任务对应的子级工作流，包括：

确定每一所述服务器节点任务对应的子级工作流以及对应的子级工作流参数；所述子级工作流参数中包括子级并行度参数，所述子级并行度参数用于指示所述子级工作流中可以同时执行的节点任务的数量。

4.根据权利要求1所述的基于Airflow的模型训练调度方法，其特征在于，所述子级工作流中还包括统计节点任务，用于记录所述子级工作流已经执行的所述训练节点任务对应的所述模型训练任务。

5.根据权利要求3所述的基于Airflow的模型训练调度方法，其特征在于，所述确定每一所述服务器节点任务对应的子级工作流以及对应的子级工作流参数，包括：

确定多个服务器节点对应的预设工作参数；所述预设工作参数包括并行度参数；

在所述父级工作流中遍历所有所述服务器节点，根据每一所述服务器节点对应的预设工作参数，为每一服务器节点对应的服务器节点任务生成对应的子级工作流和子级工作流参数。

6.根据权利要求3所述的基于Airflow的模型训练调度方法，其特征在于，所述模型调度函数为所述子级工作流从所述多个模型训练任务中确定出当前可进行的目标模型训练任务的具体方式，包括：

所述模型调度函数获取模型列表；所述模型列表中包括有若干个当前未被执行的所述模型训练任务；

所述模型调度函数根据预设的选区规则，从所述模型列表中确定出一个目标模型训练任务，并将所述目标模型训练任务从所述模型列表中删除。

7.根据权利要求5所述的基于Airflow的模型训练调度方法，其特征在于，所述父级工作流还包括有多个用于获取对应的所述模型训练任务的获取节点；在所述确定父级工作流以及对应的父级工作流参数之后，所述方法还包括：

对于所述父级工作流中的每一所述服务器节点任务，将所有所述获取节点确定为该服务器节点任务的上游任务，以建立该服务器节点任务与所有所述获取节点的链接关系。

8.根据权利要求1所述的基于Airflow的模型训练调度方法，其特征在于，所述子级工作流中还包括报错节点任务，用于在所述子级工作流执行所述训练节点任务出错时，生成对应的报错信息并推送至对应的终端。