[发明专利]边缘节点的GPU运行方法、装置、电子设备及介质

说明书

本申请提供一种边缘节点的GPU运行方法、装置、电子设备及介质，该方法包括：获取GPU任务的任务处理信息，任务处理信息包括任务标识，任务标识用于指示GPU任务的任务类型；创建与任务标识所指示的任务类型对应的Pod；按照与任务标识所指示的任务类型对应的边缘节点搜索策略搜索目标边缘节点；将所创建的Pod调度到目标边缘节点上，以由目标边缘节点执行GPU任务。通过本申请，能够针对不同任务类型的GPU任务采用相应的调度方式，有效提升了边缘节点的GPU使用效率。

技术领域

本申请涉及计算机应用技术领域，尤其涉及一种边缘节点的GPU运行方法、装置、电子设备及介质。

背景技术

图形处理单元(GPU，Graphics Processing Unit)具有强大的计算能力，其在深度学习和高性能计算领域被得到广泛的使用。

Kubernetes是一个管理跨主机容器应用的开源系统，提供了应用的部署、维护以及扩容、缩容的基本机制。在Kubernetes下针对各类型的GPU进行任务调度时，其调度粒度均是按GPU卡的数量按需分配给任务。

发明内容

有鉴于此，本申请实施例至少提供一种边缘节点的GPU运行方法、装置、电子设备及介质，能够针对不同任务类型的GPU任务采用相应的调度方式，有效提升了边缘节点的GPU使用效率。

第一方面，本申请示例性实施例提供一种边缘节点的GPU运行方法，包括：获取GPU任务的任务处理信息，所述任务处理信息包括任务标识，所述任务标识用于指示GPU任务的任务类型；创建与所述任务标识所指示的任务类型对应的Pod；按照与所述任务标识所指示的任务类型对应的边缘节点搜索策略搜索目标边缘节点；将所创建的Pod调度到所述目标边缘节点上，以由所述目标边缘节点执行所述GPU任务。

在一可能实施方式中，所述任务类型包括GPU独享任务，与GPU独享任务对应的边缘节点搜索策略为基于GPU独享任务针对GPU的设备需求来搜索边缘节点。

在一可能实施方式中，按照所述任务需求信息所指示的边缘节点搜索策略搜索目标边缘节点的步骤包括：确定节点池中的各边缘节点的运行状态，所述运行状态包括工作状态和空闲状态；将从处于空闲状态的边缘节点中搜索到的满足GPU独享任务针对GPU的设备需求的边缘节点，确定为所述目标边缘节点。

在一可能实施方式中，所述任务类型包括GPU共享任务组，与GPU共享任务组对应的边缘节点搜索策略为基于针对GPU共享任务组所预先设置的占用标识来搜索边缘节点。

在一可能实施方式中，所述任务处理信息还包括针对GPU共享任务组所预先设置的占用标识，所述GPU共享任务组包括多个共享子任务，其中，通过以下方式为每个共享子任务确定目标边缘节点：从节点池的各边缘节点中搜索是否存在具有所述GPU共享任务组对应的占用标识的边缘节点；若存在，则将搜索到的边缘节点确定为用于执行该共享子任务的目标边缘节点；若不存在，则从节点池中不执行GPU独享任务的边缘节点中选取一边缘节点，并将所选取的边缘节点确定为用于执行该共享子任务的目标边缘节点。

在一可能实施方式中，还包括：为从不执行GPU独享任务的边缘节点中所选取的边缘节点添加占用标识；在所述目标边缘节点执行完成GPU共享任务组中的所有共享子任务之后，清除为所述目标边缘节点所添加的占用标识。

在一可能实施方式中，将所创建的Pod调度到所述目标边缘节点上，以由所述目标边缘节点执行所述GPU任务的步骤包括：在启动Pod时，调用GPU设备插件以获得设备环境变量，所述设备环境变量由GPU设备插件通过以下方式获得：获取GPU任务针对GPU的设备需求，按照所述设备需求从所述目标边缘节点中选取GPU，基于所选取的GPU的设备信息生成设备环境变量；将所获得的设备环境变量注入Pod，并启动容器以执行所述GPU任务。