[发明专利]基于深度学习节点计算的调度方法、设备及存储介质

权利要求书

1.一种基于深度学习节点计算的调度方法，包括：

获取预设神经网络计算图的待计算节点；

判断所述待计算节点的节点类型，所述节点类型包括硬件计算节点和软件计算节点；

在所述节点类型为硬件计算节点的情况下，调度所述硬件计算节点至第一队列，并判断所述硬件计算节点对应的硬件算力模块是否被占用；

在所述硬件算力模块没有被占用的情况下，将所述硬件计算节点输入至所述硬件算力模块进行计算。

2.根据权利要求1所述的调度方法，还包括：

在所述硬件算力模块被占用的情况下，将所述硬件计算节点输入至软件算力模块进行计算。

3.根据权利要求1所述的调度方法，还包括：

在所述节点类型为软件计算节点的情况下，调度所述软件计算节点至第二队列，并判断是否存在未被占用的软件算力模块；

在存在未被占用的软件算力模块的情况下，将所述软件计算节点输入至所述软件算力模块进行计算。

4.根据权利要求3所述的调度方法，还包括：

在不存在未被占用的软件算力模块的情况下，将所述软件计算节点用于等待状态直到存在未被占用的软件算力模块。

5.根据权利要求1所述的调度方法，其中，所述在所述硬件算力模块没有被占用的情况下，将所述硬件计算节点输入至所述硬件算力模块进行计算之后，包括：

判断完成计算的硬件计算节点是否存在后续计算节点；

在存在后续计算节点的情况下，优先调度后续计算节点继续计算，在不存在后续计算节点的情况下，释放完成计算的硬件计算节点当前占用的线程。

6.根据权利要求3所述的调度方法，其中，所述在存在未被占用的软件算力模块的情况下，将所述软件计算节点输入至所述软件算力模块进行计算之后，包括：

判断完成计算的软件计算节点是否存在后续计算节点；

在存在后续计算节点的情况下，优先调度后续计算节点继续计算，在不存在后续计算节点的情况下，释放所述完成计算的软件计算节点当前占用的线程。

7.根据权利要求1所述的调度方法，其中，所述判断所述待计算节点的节点类型，所述节点类型包括硬件计算节点和软件计算节点包括：

判断预设线程数是否大于零，在所述预设线程数大于零的情况下，判断所述待计算节点的节点类型，所述节点类型包括硬件计算节点和软件计算节点。

8.根据权利要求7所述的调度方法，还包括：

在所述预设线程数等于零的情况下，将所述待计算节点用于等待状态直到所述预设线程数大于零。

9.一种基于深度学习节点计算的调度设备，包括：

至少一个处理器；

存储装置，用于存储至少一个程序，所述至少一个程序被所述至少一个处理器执行，使得所述至少一个处理器实现如权利要求1-8中任一项所述的调度方法。

10.一种计算机可读存储介质，其上存储有计算机程序，所述计算机程序被处理器执行时，实现如权利要求1-8中任一项所述的调度方法。