[发明专利]一种资源控制方法和装置

权利要求书

1.一种资源控制方法，其特征在于，所述方法包括：

获取每个服务单元的图形处理器GPU信息和内存信息；

根据每个服务单元的GPU信息、内存信息以及当前服务单元总数量确定伸缩策略，所述伸缩策略用于控制服务单元的数量。

2.如权利要求1所述的方法，其特征在于，所述根据每个服务单元的GPU信息、内存信息以及当前服务单元总数量确定伸缩策略包括：

根据每个服务单元的GPU信息计算每个服务单元的GPU使用率；

根据每个服务单元的内存信息计算每个服务单元的内存使用率；

根据每个服务单元的GPU使用率、内存使用率以及当前服务单元总数量确定伸缩策略。

3.如权利要求2所述的方法，其特征在于，根据每个服务单元的GPU使用率、内存使用率以及当前服务单元总数量确定伸缩策略包括：

当满足以下任一条件时，确定伸缩策略为增加服务单元：

当前所有服务单元的平均GPU使用率大于第一阈值，且当前服务单元总数量小于服务单元数量最大阈值；

当前所有服务单元的平均内存使用率大于第二阈值，且当前服务单元总数量小于服务单元数量最大阈值。

4.如权利要求2所述的方法，其特征在于，所述根据每个服务单元的GPU使用率、内存使用率以及当前服务单元总数量确定伸缩策略包括：

若当前所有服务单元的平均GPU使用率和平均内存使用率均小于第三阈值，且当前服务单元总数量大于服务单元数量最小阈值，则确定伸缩策略为删除服务单元和/或暂停服务单元。

5.如权利要求1至4任一所述的方法，其特征在于：

所述根据每个服务单元的GPU信息、内存信息以及当前服务单元总数量确定伸缩策略之后，所述方法还包括：

执行所述伸缩策略对应的操作。

6.一种资源控制装置，包括：存储器和处理器；其特征在于：

所述存储器，用于保存用于资源控制的程序；

所述处理器，用于读取执行所述用于资源控制的程序，执行如下操作：

获取每个服务单元的图形处理器GPU信息和内存信息；

根据每个服务单元的GPU信息、内存信息以及当前服务单元总数量确定伸缩策略，所述伸缩策略用于控制服务单元的数量。

7.如权利要求6所述的装置，其特征在于，所述根据每个服务单元的GPU信息、内存信息以及当前服务单元总数量确定伸缩策略包括：

根据每个服务单元的GPU信息计算每个服务单元的GPU使用率；

根据每个服务单元的内存信息计算每个服务单元的内存使用率；

根据每个服务单元的GPU使用率、内存使用率以及当前服务单元总数量确定伸缩策略。

8.如权利要求7所述的装置，其特征在于，根据每个服务单元的GPU使用率、内存使用率以及当前服务单元总数量确定伸缩策略包括：

当满足以下任一条件时，确定伸缩策略为增加服务单元：

当前所有服务单元的平均GPU使用率大于第一阈值，且当前服务单元总数量小于服务单元数量最大阈值；

当前所有服务单元的平均内存使用率大于第二阈值，且当前服务单元总数量小于服务单元数量最大阈值。

9.如权利要求8所述的装置，其特征在于，所述根据每个服务单元的GPU使用率、内存使用率以及当前服务单元总数量确定伸缩策略包括：

若当前所有服务单元的平均GPU使用率和平均内存使用率均小于第三阈值，且当前服务单元总数量大于服务单元数量最小阈值，则确定伸缩策略为删除服务单元和/或暂停服务单元。

10.如权利要求6至9任一所述的装置，其特征在于：

所述处理器，用于读取执行所述用于资源控制的程序，还执行如下操作：

所述根据每个服务单元的GPU信息、内存信息以及当前服务单元总数量确定伸缩策略之后，执行所述伸缩策略对应的操作。