[发明专利]一种基于强化学习的作业调度方法、装置及设备

说明书

本申请提供一种基于强化学习的作业调度方法、装置及设备，管理节点将不同作业的作业信息输入到深度神经网络，得到作业调度策略和各作业相关联的计算节点队列；按照作业调度策略和计算节点队列调度运行各作业，并依据各作业的调度运行情况，确定用于评估所述深度神经网络的评估参数，依据评估参数和针对各作业已设置的预期参数，更新深度神经网络中的模型参数，以使得对作业调度策略进行调整。可见，应用本实施例提供的技术方案能够根据用户配置的预期参数对作业调度策略进行自适应调整，无需用户耗费冗长的时间选择调度策略，使得既能够自适应性调整作业调度策略，又能够提高作业调度效率。

技术领域

本申请涉及计算机技术领域，尤其涉及一种基于强化学习的作业调度方法、装置及设备。

背景技术

随着计算机技术的飞速发展，高性能计算技术应运而生，高性能计算技术的核心是资源管理和作业调度，部署在高性计算能平台的管理节点还部署有为作业提供调度策略的Slurm（Simple Linux Utility for Resource Management）作业调度系统，管理节点依据Slurm作业调度系统确定的作业执行顺序将作业提交至高性能计算平台的计算节点中。

在实际应用中，Slurm作业调度系统拥有默认的调度策略，用户依据各作业的作业优先级、作业负载等属性配置调度策略参数，从而更为合理利用高性能计算平台中计算节点的硬件资源，手动为作业分配与作业相关的计算节点队列，优化已分配作业所属计算机节点队列中各作业的执行顺序。但是，计算节点队列的选择和该Slurm作业调度系统的调度策略参数均需要用户手动配置，然而手动配置高度依赖用户经验，无法对配置结果进行量化，这样的作业调度有时不但不能起到优化的作用，甚至会对高性能计算平台的运行带来负面的影响。同时，这些调度策略参数产生的调度结果不明晰，没有调度结果分析报告，用户并不知道现有资源参数配置好后作业队列是否能对高性能计算平台中的硬件资源进行合理的利用及优化，一旦提交新的作业或者Slurm作业调度系统发生变化，针对作业的配置参数又需要被重新配置，耗费大量的时间。

发明内容

有鉴于此，本申请提供一种基于强化学习的作业调度方法、装置及设备，以在能够自适应性调整作业调度策略的同时，还能够提高作业调度效率。

第一方面，本申请实施例一种基于强化学习的作业调度方法，该方法应用于服务器集群中的管理节点，所述服务器集群还包括用于运行作业的至少一个计算节点，所述方法包括：

将不同作业的作业信息输入到深度神经网络，得到作业调度策略和各作业相关联的计算节点队列；所述作业调度策略用于调度运行所述不同作业，任一作业相关联的计算节点队列中的至少一个计算节点用于运行该作业；

按照所述作业调度策略和各作业相关联的计算节点队列调度运行各作业，并依据各作业的调度运行情况，确定用于评估所述深度神经网络的评估参数；

依据所述评估参数和针对所述各作业已设置的预期参数，更新所述深度神经网络中的模型参数，以使得对作业调度策略进行调整。

第二方面，本申请实施例提供一种基于强化学习的作业调度装置，该装置应用于服务器集群中的管理节点，所述服务器集群还包括用于运行作业的至少一个计算节点，所述装置包括：

策略和队列得到单元，用于将不同作业的作业信息输入到深度神经网络，得到作业调度策略和各作业相关联的计算节点队列；所述作业调度策略用于调度运行所述不同作业，任一作业相关联的计算节点队列中的至少一个计算节点用于运行该作业；

评估参数确定单元，用于按照所述作业调度策略和各作业相关联的计算节点队列调度运行各作业，并依据各作业的调度运行情况，确定用于评估所述深度神经网络的评估参数；

策略更新单元，用于依据所述评估参数和针对所述各作业已设置的预期参数，更新所述深度神经网络中的模型参数，以使得对作业调度策略进行调整。