[发明专利]一种减少GPU二级缓存能耗的控制方法及装置

摘要

本发明提供一种减少GPU二级缓存能耗的控制方法及装置，以减少GPU的L2cache的能耗。在本发明实施例中，在程序启动后分为两个阶段——预测阶段和正常运行阶段，在预测阶段会对L2cache中缓存行在正常运行阶段的访问次数进行预测，得到预测访问次数。在正常运行阶段，若某缓存行的实际访问次数等于预测访问次数后，会对该缓存行中的数据进行关闭处理。这样，在后续的程序运行过程中，就不消耗能量对该缓存行中的数据进行更新和保存，从而可减少存储无用数据的时间，进而降低了能耗。

主权项

1.一种减少GPU二级缓存能耗的控制方法，其特征在于,所述GPU包括多个流处理器SM，包括：/n程序启动后进入预测阶段；/n在所述预测阶段执行的操作包括：对所述二级缓存中缓存行在正常运行阶段的访问次数进行预测；预测出的访问次数为预测访问次数；/n所述预测阶段结束后，进入所述正常运行阶段；/n在所述正常运行阶段执行的操作包括：在所述缓存行的实际访问次数等于预测访问次数后，对所述缓存行中存储的数据进行关闭处理；/n在所述程序启动后，在所述预测阶段至所述正常运行阶段中，每一SM运行至少一个线程块，不同SM所运行的线程块中的线程执行同一段代码中的程序指令，所述SM每次从线程块中取一个线程簇执行操作，所取出的线程簇在同一时刻执行同一条程序指令；每一条程序指令对应一个程序计数器PC值；在所有线程块中的线程对所述同一段代码中的程序指令均执行完毕后，所述正常运行阶段结束；/n任一所述SM以SM_e表示，所述对所述二级缓存中缓存行在正常运行阶段的访问次数进行预测包括：/n从所述SM_e运行的至少一个线程块中，随机选择出一个线程块构建针对所述SM_e的预测器，并创建针对所述SM_e的空预测表；所述预测器中的线程相较于其他线程块中的线程有更高的执行优先级；所述预测表用于存储块地址、PC值和预测访问次数；/n在获取到来自所述预测器的程序指令时，将目标PC值和目标块地址插入所述SM_e的预测表；其中，所述目标PC值为来自所述预测器的程序指令所对应的程序指令的PC值，所述目标块地址为来自所述预测器的程序指令所访问数据对应的缓存行的块地址；/n在满足预设条件时，使用所述二级缓存中的缓存行的实际访问次数，对所述SM_e的预测表中的预测访问次数进行更新；其中，所述二级缓存中的缓存行被任一线程簇访问时，被访问缓存行的实际访问次数将会被更新；/n在各SM的预测表均更新完毕后，将所述二级缓存中的缓存行的实际访问次数置为0。/n