[发明专利]一种GPU片上存储空间使用的优化方法

权利要求书

1.一种GPU片上存储空间使用的优化方法，其特征在于，包括如下步骤：

1）统计当前GPU片上共享存储空间的所有数组变量，包括每个数组变量的访问次数、是否用于多线程通信、数组下表是否为常量等参数；

2）将步骤1）中统计得到的所有数组变量按访问次数排序，形成排序后的数组变量组；

3）从排序后的数组变量组中选择访问次数最高的数组变量从共享存储空间迁移到寄存器或L1缓存；

4）若当前数组变量迁移后的系统性能优于迁移前的性能，则继续进行步骤3），迁移下一个数组变量，直到排序后的数组变量组中的数组变量全部转移结束；若当前数组变量迁移后的系统性能比迁移前的性能更差，则终止本次片上存储空间的优化过程，不再迁移其他数据变量。

2.根据权利要求1所述的一种GPU片上存储空间使用的优化方法，其特征在于，步骤1）具体的工作过程包括：

1-1）采用CollectArrays程序模块统计当前GPU程序中存储在片上共享存储空间的所有数组变量；

使用GPU程序编译工具对当前GPU程序进行编译，找出编译代码中所有存储在片上共享存储空间内的数组变量，记为SMArray；

1-2）采用AccessCount程序模块，统计步骤1-1）得到的SMArray中每个数组变量的访问次数，对于某个数组变量array_i而言，其访问次数记为array_i.count；

1-3）采用IsAccessedByThreads程序模块判断SMArray中每个数组变量是否被同时被多个线程访问，对于某个数组变量array_i而言，该参数记为array_i.threads，如果数组变量array_i被多个线程访问则array_i.threads=1，否则array_i.threads=0；

1-4）采用IsConstantIndex程序模块判断SMArray中每个数组变量的下标是否为常量，即该数组是否确定长度；对于某个数组变量array_i而言，该参数记为array_i.constant，如果数组变量array_i的长度为常量则array_i.constant=1，否则array_i.constant=0；

1-5）采用CollectFinish程序模块判断是否完成当前GPU程序中存储在片上共享存储空间的所有数组变量的参数是否收集完成，若完成所有收集工作则进入步骤2）中的排序程序模块SortArrays，否则继续遍历GPU程序收集参数信息。