[发明专利]一种计算资源分配方法、装置、电子设备及存储介质

说明书

本申请涉及一种计算资源分配方法、装置、电子设备及存储介质。其中，方法包括：确定待创建的目标容器的目标资源需求量；根据所述目标资源需求量，从多个候选计算单元中选取出预分配给所述目标容器的目标计算单元；将所述目标计算单元分配给所述目标容器，以使用所述目标资源需求量的虚拟计算资源创建所述目标容器。可以将目标计算单元分为多个虚拟计算资源，进而，当同一个目标计算单元中的不同的虚拟资源被分配给不同的容器时，随着容器的数量的增加，可以避免当一个计算单元分配给一个容器时，因某一容器运行时目标计算单元利用率低，导致可以使该计算单元整体使用率低的情况，进而可以提高每个目标计算单元的资源利用率。

技术领域

本申请涉及资源调度技术领域，尤其涉及一种计算资源分配方法、装置、电子设备及存储介质。

背景技术

随着计算机技术的发展，为了提供较高性能的服务，越来越多的采用集群服务器提供服务。在通过计算机集群提供服务时，容易出现某一计算单元占用率高，而某一些计算单元占用率低的情况，因而存在不同的计算单元的资源利用率偏差较大的情况。

其中，GPU(图形处理单元)虚拟化作为提高整个集群GPU利用率的方式，越来越受到大家的重视，一般来说，在使用GPU进行推理的GPU任务大多情况下符合长尾定理，即个别的GPU利用率相当高(例如，80％-90％)，大部分的GPU利用率普遍较低(大部分低于10％)，甚至有30％-40％的GPU利用率接近0％。GPU利用率低，代表GPU卡闲置，出现较为严重的资源浪费。

由上可知，相关技术中的计算资源分配方法存在不同的计算单元的资源利用率偏差较大的技术问题。

发明内容

为了解决上述不同的计算单元的资源利用率偏差较大的技术问题，本申请提供了一种计算资源分配方法、装置、电子设备及存储介质。

第一方面，本申请实施例提供了一种计算资源分配方法，包括：

确定待创建的目标容器的目标资源需求量，其中，所述目标资源需求量为创建所述目标容器所需的计算资源的资源量；

根据所述目标资源需求量，从多个候选计算单元中选取出预分配给所述目标容器的目标计算单元，其中，所述目标计算单元剩余的虚拟计算资源的资源量大于或者等于所述目标资源需求量；

将所述目标计算单元分配给所述目标容器，以使用所述目标资源需求量的虚拟计算资源创建所述目标容器。

可选地，如前述的方法，所述根据所述目标资源需求量，从多个候选计算单元中选取出预分配给所述目标容器的目标计算单元包括：

根据多个候选节点中的每个候选节点的未分配资源总量，从多个所述候选节点中选取出目标节点，其中，每个所述候选节点包含至少一个所述候选计算单元，所述目标节点的未分配资源总量大于或者等于所述目标资源需求量；

从所述目标节点包含的至少一个所述候选计算单元中选取出预分配给所述目标容器的所述目标计算单元。

可选地，如前述的方法，在所述将所述目标计算单元分配给所述目标容器之前，所述方法还包括：

在所述目标容器的配置文件中写入所述目标节点的目标节点标识和所述目标计算单元的目标单元信息，以指示在所述目标容器的所述目标计算单元上使用所述目标资源需求量的虚拟计算资源创建所述目标容器；

将所述目标容器与所述目标节点绑定，以触发所述目标节点通过读取所述目标容器的配置文件将所述目标计算单元分配给所述目标容器。

可选地，如前述的方法，所述将所述目标计算单元分配给所述目标容器，以使用所述目标资源需求量的虚拟计算资源创建所述目标容器包括：

在确定所述目标容器与所述目标节点绑定的情况下，获取所述目标容器的配置文件；