[发明专利]GPU性能的监控方法、监控装置和电子设备

权利要求书

1.一种GPU性能的监控方法，其特征在于，包括：

通过目标脚本判断GPU是否开启MIG模式，其中，所述目标脚本为所述GPU所在的节点中至少用于获取并输出所述GPU中多个MIG小组的性能参数的脚本，所述MIG模式是用于将所述GPU划分为多个所述MIG小组的模式；

在所述GPU开启所述MIG模式的情况下，通过所述目标脚本获取所述GPU中各所述MIG小组的标识符和索引值，根据每个所述MIG小组的标识符和索引值至少获取每个所述MIG小组对应的一组第一性能参数，并至少将所述第一性能参数存储至目标存储单元，其中，所述第一性能参数表示每个所述MIG小组的计算核心的性能且至少包括显存参数和dram_active参数。

2.根据权利要求1所述的监控方法，其特征在于，通过目标脚本判断GPU是否开启MIG模式之前，还包括：

执行所述目标脚本中的NVIDIA SMI指令，在成功执行所述NVIDIA SMI指令的情况下，执行判断所述GPU是否开启MIG模式的步骤；

在执行所述NVIDIA SMI指令失败的情况下，退出所述目标脚本。

3.根据权利要求1所述的监控方法，其特征在于，通过所述目标脚本获取所述GPU中各所述MIG小组的标识符和索引值，包括：

通过所述目标脚本中的NVIDIA SMI L指令获取所述GPU中各所述MIG小组的标识符和索引值。

4.根据权利要求3所述的监控方法，其特征在于，在获取所述GPU中各所述MIG小组的标识符和索引值之后，还包括：

将所述GPU的多个所述MIG小组的标识符和索引值生成至目标群组，判断所述目标群组的群组代号与定向文件中的初始群组的群组代号是否相同，其中，所述目标群组包括多个目标组，每个所述目标组包括一个所述MIG小组的标识符和索引值，所述目标群组和所述初始群组都具有唯一的群组代号，所述定向文件存储于所述GPU所在的节点中，所述初始群组生成于所述GPU上一次开启所述MIG模式之后；

在所述目标群组的群组代号与所述初始群组的群组代号相同的情况下，判断所述目标群组中每个所述MIG小组的存储空间大小与所述初始群组中每个初始MIG小组的存储空间大小是否相同，在所述目标群组中所有的所述MIG小组的存储空间大小与所述初始群组中所有的所述初始MIG小组的存储空间大小相同的情况下，将所述初始群组的群组代号作为所述目标群组的群组代号，在所述目标群组中所有的所述MIG小组的存储空间大小与所述初始群组中所有的所述初始MIG小组的存储空间大小不同的情况下，删除所述初始群组的群组代号，将所述目标群组的群组代号存储至所述定向文件中；

在所述目标群组的群组代号与所述初始群组的群组代号不同的情况下，将所述目标群组的群组代号存储至所述定向文件中。

5.根据权利要求1所述的监控方法，其特征在于，根据每个所述MIG小组的标识符和索引值至少获取每个所述MIG小组对应的一组第一性能参数，包括：

通过所述目标脚本的dcgmi dmon g命令，按照定向文件中的目标群组代号对应的目标群组中的每个所述MIG小组的标识符和索引值，获取每个所述MIG小组对应的一组第一性能参数，其中，所述定向文件存储于所述GPU所在的节点中且包括所述目标群组的群组代号，所述目标群组包括多个目标组，每个所述目标组包括一个所述MIG小组的标识符和索引值；

通过所述目标脚本的dcgmi dmon命令，获取所述GPU的第二性能参数，其中，所述第二性能参数表示所述GPU的性能且至少包括所述GPU的显存。

6.根据权利要求1所述的监控方法，其特征在于，至少将所述第一性能参数存储至目标存储单元，包括：

所述GPU所在的节点中还包括telegraf组件，所述telegraf组件用于在预定周期内执行所述目标脚本，获取所述目标脚本输出的所述第一性能参数和第二性能参数，并将所述第一性能参数和所述第二性能参数存储至所述目标存储单元，其中，所述第二性能参数用于表示所述GPU的性能且至少包括所述GPU的显存。