[发明专利]一种面向GPU的层次递进下钻的性能监测方法

摘要

本发明提供了一种面向GPU的层次递进下钻的性能监测方法，包括：(1)关注CPU程序与设备交互部分，识别CPU和GPU空闲时间、主机端CUDA函数、CPU与GPU数据传输开销以及热点kernel函数；(2)朝着细粒度方向监测，将CUDA模型中的网格grid级别作为一个监测层次，获得GPU设备级别的度量值；(3)向下进行SM级别监测，识别各SM上的负载平衡、执行的线程块数和SM级别的同步指令数；(4)监测其上运行的线程块block执行状况，包括线程块block的执行时间、分支数和同步指令数；(5)监测感兴趣的线程块中的warp行为，获得各warp执行时间、分歧数、同步指令数目以及存储器操作指令数信息；(6)监测CUDA线程的执行信息，包括各线程执行时间。

主权项

1.一种面向GPU的层次递进下钻的性能监测方法，其特征在于包括如下步骤：(1)首先关注CPU程序与GPU设备交互的部分，从而识别CPU和GPU的空闲时间、主机端CUDA函数、CPU与GPU数据传输开销以及热点kernel函数；(2)在识别所述热点kernel函数之后，进一步朝着细粒度的方向进行监测，将CUDA模型中的网格grid级别作为一个监测层次，获得GPU设备级别的度量值，包括kernel占有率、周期指令数IPC(Instruction Per Clock)；(3)向下进行SM(Streaming Multiprocessor)级别的监测，识别各个SM上的负载平衡、执行的线程块数和SM级别的同步指令数；(4)进一步监测其上运行的线程块block的执行状况，从而探索造成热点SM的根源，这里监测的是同一kernel函数内部的线程块block，识别各个所述线程块block的执行时间、分支数和同步指令数；(5)线程块block的基本调度单位是warp单元，进一步监测感兴趣的线程块block中的warp行为，获得各warp执行时间、各warp的分歧数以及其他warp级别的度量值，所述其他warp级别的度量值包括同步指令数目、存储器操作指令数的性能相关的信息；(6)最后监测CUDA线程的执行信息，包括各线程执行时间。