[发明专利]一种面向深度学习的多类型GPU集群资源管理调度方法和系统

摘要

本发明公开了一种面向深度学习的多类型GPU集群资源管理和调度方法和系统，能够根据GPU的型号将GPU集群划分为若干GPU组，统计每一GPU组的空闲运算能力，并获取接入GPU集群的所有用户，记录每一用户的最小运算能力要求；定时访问作业队列，获取作业队列中优先级最高的待处理作业，并根据待处理作业调度GPU集群资源。本发明统一管理不同品牌、型号的GPU为一个集群，用于深度学习，减少维护的GPU集群数量，简化GPU集群管理复杂度；能够满足深度学习中不同用户的需求，根据用户需求设置合理的用户属性，用户不需要熟悉和关心GPU集群环境，资源调度根据用户的运算能力要求和优先级进行，调度方法能自动分配满足需求的资源，并提高不同GPU类型组的资源使用率。

主权项

1.一种面向深度学习的多类型GPU集群资源管理调度方法，用于管理GPU集群资源、管理用户以及根据用户提交的作业调度GPU集群资源，其特征在于，所述面向深度学习的多类型GPU集群资源管理调度方法，包括：根据GPU的型号将GPU集群划分为若干GPU组，统计每一GPU组的空闲运算能力，并获取接入GPU集群的所有用户，记录每一用户的最小运算能力要求；访问作业队列，获取作业队列中优先级最高的待处理作业，并通过如下步骤根据所述待处理作业调度GPU集群资源：若存在空闲运算能力满足所述待处理作业对应的用户的最小运算能力要求的GPU组，则将待处理作业分配至满足最小运算能力要求且需要的GPU数量最多的GPU组；若不存在空闲运算能力满足所述待处理作业对应的用户的最小运算能力要求的GPU组，则根据优先级从小到大遍历当前执行作业，比较当前执行作业与待处理作业的优先级：若所有的当前执行作业的优先级均大于或等于待处理作业的优先级，则等待下一次调度；若存在当前执行作业的优先级小于待处理作业的优先级，则依次计算处理当前执行作业的GPU组的空闲运算能力和待释放运算能力的总和，若所有计算后的GPU组的总和均不满足所述待处理作业对应的用户的最小运算能力要求，则等待下一次调度；若存在总和满足所述待处理作业对应的用户的最小运算能力要求的GPU组，则将待处理作业分配至满足最小运算能力要求且需要的GPU数量最多的GPU组，并将该GPU组中与待释放运算能力对应的当前执行作业保存后挂起。