[发明专利]一种资源调度方法、装置和系统

说明书

本申请提供一种资源调度方法，包括：获取深度学习作业的作业程序，将作业程序进行转换，得到计算图中间表示；将计算图中间表示进行分割得到子图集合；对子图集合进行包装，得到各类加速器对应的工作负载镜像；根据预设的加速器能力信息、用户提交的服务水平条件和资源池的信息，从加速器集群中确定目标加速器，发送对应的工作负载镜像至目标加速器。本申请利用计算图中间表示对不同框架的作业程序进行统一抽象，基于计算图中间表示得到多种工作负载镜像，综合加速器能力信息、服务水平条件和资源池的信息，确定目标加速器并对其分配相应的工作负载镜像，合理的利用加速器资源，提高使用效率。本申请提供了具有上述有益效果的资源调度装置和系统。

技术领域

本申请涉及资源调度技术领域，特别涉及一种资源调度方法、资源调度装置、资源调度系统。

背景技术

深度学习中计算密集型的工作负载对计算系统的算力提出了极高的要求，为了提高深度学习各类工作负载的计算效能，人们通常通过两种手段来提升计算系统的算力。一是通过分布式计算的途径，增加同时参与计算的计算机节点数量来获得更高的计算能力，即通常说的水平扩容；二是通过提高单个计算机节点的计算能力，包括使用更高性能的中央处理器(Center Processing Unit,CPU)和使用专用的计算加速器等，即通常说的垂直扩容。随着深度学习相关技术和应用的飞速发展，在生产环境中，深度学习研究人员均选择将上述两种手段进行融合构建深度学习云或者深度学习即服务平台，通过在大规模分布的计算系统中各个计算机节点上增加深度学习加速器的方式，同时提高单点计算性能和全系统的吞吐率。

在大规模分布的深度学习计算系统中，使用多种异构加速器以支持不同类型工作负载同时运行成为了一个显著的趋势。在使用这样的计算系统时，当前技术采用的资源调度方法的资源使用效率差，不能够对异构加速器进行调度，局限性大。

因此，如何提供一种解决上述技术问题的方案是本领域技术人员目前需要解决的问题。

发明内容

本申请的目的是提供一种资源调度方法、资源调度装置、资源调度系统，能够形成全系统一致的计算图中间表示的描述，并且能够合理的利用了加速器资源，优化了加速器的资源调度。其具体方案如下：

本申请公开了一种资源调度方法，包括：

获取深度学习作业的作业程序，将所述作业程序进行转换，得到计算图中间表示；

将所述计算图中间表示进行分割得到子图集合；

对所述子图集合进行包装，得到各类加速器对应的工作负载镜像；

根据预设的加速器能力信息、用户提交的服务水平条件和资源池的信息，从加速器集群中确定目标加速器，发送对应的所述工作负载镜像至所述目标加速器。

优选的，还包括：

按照所述加速器的类别构造所述资源池；

实时监测所述加速器上的工作负载运行情况；

接收到所述加速器的反馈信息，并根据所述反馈信息更新所述资源池的信息。

优选的，预设的所述加速器能力信息的建立过程包括：

读取基准测试程序，并对所述基准测试程序进行分割、包装，得到各类所述加速器的基准工作负载；

将所述基准工作负载发送至对应的所述加速器，以使各类所述加速器运行对应的所述基准工作负载；

接收到所述加速器发送的运行信息，并根据所有的所述运行信息得到所述加速器能力信息。

优选的，所述将所述作业程序进行转换，得到计算图中间表示，包括：

校验所述作业程序对应的深度学习模型是否正确；