[发明专利]一种面向共享式GPU集群下的容器调度方法及装置

权利要求书

1.一种面向共享式GPU集群下的容器调度方法，其特征在于：包括如下步骤：

获取Pod创建请求，根据Pod创建请求中Pod创建信息对Pod进行校验获得Pod标记，并根据Pod创建信息获取Pod总的所需资源信息；

根据Pod创建信息中Pod业务优先级标签和Pod总的所需资源信息对Pod进行排序，获得调度队列队头的待调度Pod；

根据待调度Pod的Pod创建信息中Pod所需的CPU标签、内存标签与GPU标签，Pod标记和集群节点状态信息，对节点进行过滤，获得Pod可调度节点；

根据Pod可调度节点的数量和待调度Pod的Pod标记，计算Pod对应可调度节点的得分，根据得分待调度Pod匹配最优的Pod可调度节点。

2.根据权利要求1所述的一种面向共享式GPU集群下的容器调度方法，其特征在于：所述获取Pod创建请求，根据Pod创建请求中Pod创建信息对Pod进行校验获得Pod标记，并根据Pod创建信息获取Pod总的所需资源信息，包括：

获取Pod创建请求中Pod创建信息的GPU标签，若Pod不包含GPU标签，则Pod标记为非需求GPU资源Pod；若Pod包含GPU标签，则Pod标记为需要GPU资源Pod；

根据Pod创建信息的各个容器运行所需的资源信息，对所有容器中同类资源进行累加，得出Pod总的所需资源信息。

3.根据权利要求2所述的一种面向共享式GPU集群下的容器调度方法，其特征在于：所述Pod总的所需资源信息包括：GUP资源申请量、CPU资源申请量、内存资源申请量、GPU显存申请量。

4.根据权利要求1所述的一种面向共享式GPU集群下的容器调度方法，其特征在于：所述根据Pod创建信息中Pod业务优先级标签和Pod总的所需资源信息对Pod进行排序，获得调度队列队头的待调度Pod，包括：

根据Pod业务优先级标签数值对Pod进行从高到底排序；

如果n个待调度Pod中存在m个Pod之间Pod业务优先级标签数值差小于预设阈值，mn，对m个Pod筛选GPU资源申请量，将GPU资源申请量少的Pod优先排序；

如果GPU资源申请量相同时，筛选CPU资源申请量，将CPU资源申请量少的Pod优先排序；

如果CPU资源申请量相同时，筛选内存资源申请量，将内存资源申请量少的Pod优先排序；

如果GPU、CPU、内存资源申请量都相同，不变动排序顺序；

排序最高的Pod为调度队列队头的待调度Pod。

5.根据权利要求1所述的一种面向共享式GPU集群下的容器调度方法，其特征在于：所述根据待调度Pod的Pod创建信息中Pod所需的CPU标签、内存标签与GPU标签，Pod标记和集群节点状态信息，对节点进行过滤，获得Pod可调度节点，包括：

获取待调度Pod的Pod所需的CPU标签、内存标签与GPU标签；

获取当前集群下所有节点状态，并获取空闲节点资源信息，空闲节点资源信息包括：节点所持有的CPU时钟频率、CPU使用率、可用内存、GPU核心数、GPU时钟频率、GPU使用率；

遍历集群中的所有空闲节点，当节点所持有的CPU时钟频率大于待调度Pod的CPU时钟频率标签值时，则将该节点标记为可调度节点，节点可调度标签值标记为1，否则标记为0；

遍历所有可调度节点标签值为1的节点，当节点所持有的可用内存值大于待调度Pod的内存标签值，则持续将该节点可调度标签值标记为1，否则将其标记为0；

若待调度Pod为非需求GPU资源Pod，则将所有可调度节点标签值为1的节点作为Pod可调度节点；

若待调度Pod为需求GPU资源Pod，则遍历所有可调度节点标签值为1的节点，当节点所持有的GPU核心数大于GPU数量标签值，且节点GPU可用显存总值大于GPU显存标签值时，将节点作为Pod可调度节点。

6.根据权利要求5所述的一种面向共享式GPU集群下的容器调度方法，其特征在于：还包括：

检查所有Pod可调度节点的请求卷和节点上其他Pod使用的卷是否冲突，如果存在冲突，则过滤该Pod可调度节点。