[发明专利]任务调度方法、调度模块、推理节点和协同作业系统

权利要求书

1.一种任务调度方法，其特征在于，应用于调度模块，包括：

获取各推理节点的待处理信息，所述各推理节点协同作业，所述待处理信息包括对应推理节点下的待处理任务数量和/或各待处理任务的任务类型；

基于所述各推理节点的待处理信息，以及所述各推理节点在协同作业中的重要性，从所述各推理节点中选取目标节点，所有目标节点进行任务处理所需的计算资源总和小于等于额定计算量；

向所述目标节点发送任务处理指令，以触发所述目标节点进行任务处理。

2.根据权利要求1所述的任务调度方法，其特征在于，所述基于所述各推理节点的待处理信息，以及所述各推理节点在协同作业中的重要性，从所述各推理节点中选取目标节点，包括：

基于各推理节点的待处理信息，确定各推理节点下的优先任务数量，优先任务为任务类型为优先类型的待处理任务；

基于各推理节点下的优先任务数量，以及所述各推理节点在协同作业中的重要性，从所述各推理节点中选取目标节点。

3.根据权利要求2所述的任务调度方法，其特征在于，所述基于各推理节点下的优先任务数量，以及所述各推理节点在协同作业中的重要性，从所述各推理节点中选取目标节点，包括：

若存在优先推理节点，则基于各优先推理节点的待处理任务数量和协同作业权重，确定各优先推理节点的推理优先级；

基于各优先推理节点的推理优先级，确定目标节点；

所述优先推理节点为优先任务数量大于0的推理节点，所述协同作业权重是基于对应推理节点在协同作业中的重要性确定的。

4.根据权利要求3所述的任务调度方法，其特征在于，所述基于各优先推理节点的推理优先级，确定目标节点，包括：

若优先推理节点的数量大于等于第一预设数量，则选取所述第一预设数量个推理优先级最高的优先推理节点作为目标节点；

否则，将所有优先推理节点作为目标节点，并选取第二预设数量个推理优先级最高的非优先推理节点作为目标节点；

所述第一预设数量是基于各推理节点进行任务处理所需的计算资源与所述额定计算量确定的目标节点数量阈值，所述第二预设数量是所述第一预设数量和所述优先推理节点的数量差值，所述非优先推理节点为优先任务数量为0的推理节点。

5.根据权利要求3所述的任务调度方法，其特征在于，所述基于各优先推理节点的推理优先级，确定目标节点，包括：

基于所述推理优先级从大到小的顺序，逐个将各优先推理节点确定为所述目标节点，直至下一待确定为目标节点的优先推理节点与所有目标节点进行任务处理所需的计算资源总和大于所述额定计算量；

若所有优先推理节点进行任务处理所需的计算资源总和小于所述额定计算量，则基于所述推理优先级从大到小的顺序，逐个将各非优先推理节点确定为所述目标节点，直至下一待确定为目标节点的非优先推理节点与所有目标节点进行任务处理所需的计算资源总和大于所述额定计算量；

所述非优先推理节点为优先任务数量为0的推理节点。

6.一种任务调度方法，其特征在于，应用于推理节点，包括：

将本端的待处理信息发送至调度模块，以供所述调度模块基于各推理节点的待处理信息，以及所述各推理节点在协同作业中的重要性，从所述各推理节点中选取目标节点，并向所述目标节点下发任务处理指令；

若接收到所述任务处理指令，则进行任务处理；

其中，本端与其他各推理节点协同作业，所述待处理信息包括本端的待处理任务数量和/或各待处理任务的任务类型。

7.一种调度模块，其特征在于，包括：

信息获取单元，用于获取各推理节点的待处理信息，所述各推理节点协同作业，所述待处理信息包括对应推理节点下的待处理任务数量和/或各待处理任务的任务类型；

目标选取单元，用于基于所述各推理节点的待处理信息，以及所述各推理节点在协同作业中的重要性，从所述各推理节点中选取目标节点，所有目标节点进行任务处理所需的计算资源总和小于等于额定计算量；

指令发送单元，用于向所述目标节点发送任务处理指令，以触发所述目标节点进行任务处理。