[发明专利]一种GPU资源使用方法、装置及存储介质

权利要求书

1.一种GPU资源使用方法，其特征在于，包括：

部署在集群中的容器管理系统根据客户端提交的计算请求创建调度任务；其中，所述计算请求包括计算任务以及创建GPU容器的指令，所述计算任务为需要利用所述集群中的GPU资源进行计算的任务，所述GPU容器为用于运行所述计算任务的容器，所述调度任务为用于创建所述GPU容器的任务；

所述容器管理系统判断所述集群中空闲的GPU资源是否满足所述创建GPU容器的指令中指定的资源需求；其中，所述集群中空闲的GPU资源是指所述集群中未被其他计算任务占用的GPU资源；

若不满足所述资源需求，则所述容器管理系统先挂起所述调度任务直至满足需求时再执行所述调度任务；其中，在所述调度任务被挂起时，所述容器管理系统不进行GPU容器的创建；

若满足所述资源需求，则所述容器管理系统执行所述调度任务，所述调度任务在被执行时，所述容器管理系统根据所述调度任务创建所述GPU容器，将所述GPU容器调度到所述集群中包含有空闲的GPU资源的节点上运行，并在所述GPU容器内执行所述计算任务；

其中，执行所述计算任务需要的数据集以及执行所述计算任务后产生的结果集均保存在所述集群的共享存储中，所述容器管理系统在创建所述GPU容器时还将所述共享存储挂载到所述GPU容器下；

所述方法还包括：

所述容器管理系统创建CPU容器，并将所述共享存储挂载到所述CPU容器下，所述结果集中的数据在所述CPU容器中被进一步处理，所述CPU容器具有供集群用户访问的网络地址。

2.根据权利要求1所述的GPU资源使用方法，其特征在于，所述方法还包括：

在所述计算任务执行完后，所述容器管理系统销毁所述GPU容器。

3.根据权利要求1所述的GPU资源使用方法，其特征在于，所述方法还包括：

所述容器管理系统根据预配置的重启策略在所述调度任务执行失败时进行重试。

4.根据权利要求3所述的GPU资源使用方法，其特征在于，所述重启策略被配置为不断重试，所述方法还包括：

所述容器管理系统根据所述客户端发送的中断执行指令终止对所述调度任务的重试操作，若所述容器管理系统已经根据所述调度任务创建了所述GPU容器，则销毁所述GPU容器。

5.根据权利要求1-4中任一项所述的GPU资源使用方法，其特征在于，所述容器管理系统包括Kubernetes系统。

6.一种GPU资源使用装置，其特征在于，包括：

请求处理模块，用于部署在集群中的容器管理系统根据客户端提交的计算请求创建调度任务；其中，所述计算请求包括计算任务以及创建GPU容器的指令，所述计算任务为需要利用所述集群中的GPU资源进行计算的任务，所述GPU容器为用于运行所述计算任务的容器，所述调度任务为用于创建所述GPU容器的任务；

空闲资源判断模块，用于所述容器管理系统判断所述集群中空闲的GPU资源是否满足所述创建GPU容器的指令中指定的资源需求；其中，所述集群中空闲的GPU资源是指所述集群中未被其他计算任务占用的GPU资源；

调度任务处理模块，用于若不满足所述资源需求，则所述容器管理系统先挂起所述调度任务直至满足需求时再执行所述调度任务；其中，在所述调度任务被挂起时，所述容器管理系统不进行GPU容器的创建；以及，用于若满足所述资源需求，则所述容器管理系统执行所述调度任务，所述调度任务在被执行时，所述容器管理系统根据所述调度任务创建所述GPU容器，将所述GPU容器调度到所述集群中包含有空闲的GPU资源的节点上运行，并在所述GPU容器内执行所述计算任务；

其中，执行所述计算任务需要的数据集以及执行所述计算任务后产生的结果集均保存在所述集群的共享存储中，所述容器管理系统在创建所述GPU容器时还将所述共享存储挂载到所述GPU容器下；

所述装置还包括：CPU容器创建模块，用于所述容器管理系统创建CPU容器，并将所述共享存储挂载到所述CPU容器下，所述结果集中的数据在所述CPU容器中被进一步处理，所述CPU容器具有供集群用户访问的网络地址。

7.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储有计算机程序指令，所述计算机程序指令被处理器读取并运行时，执行如权利要求1-5中任一项所述的方法。