[发明专利]一种基于全局解耦的GPU内部能耗控制系统及方法

说明书

本发明提供一种基于全局解耦的GPU内部能耗控制系统及方法，该系统包括Master‑GPU模块、Slave‑GPU模块、CPU；所述Master‑GPU是主控GPU，由它运行全局解耦网络，并生成三组控制信号C_SM,C_ICNT,C_MEM，通过该三组控制信号对Slave‑GPU模块进行全局能耗控制；所述Slave‑GPU为被控GPU，包括三组能耗模块，分别是SM计算模块、MEM模块和ICNT模块，主控GPU产生的三组控制信号将分别对这三个模块的频率f_{SM_1},f_{MEM_1},f_{ICNT_1}进行实时全局控制；CPU，用于负责主从两块GPU之间的通信，它从Slave‑GPU抽取特征信号{TQ_SM,TQ_MEM,TQ_ICNT}和{f_SM,f_MEM,f_ICNT}，并把它们交给Master‑GPU；当Master‑GPU生产了实时控制信号C_SM,C_ICNT,C_MEM，它负责把所述三组控制信号交给Slave‑GPU，从而实现对Slave‑GPU的能耗优化工作。使用基于全局的能量管理方法在系统的吞吐率上平均提高了12.23％，在能耗表现上平均提升了16.38％。

技术领域

本发明涉及计算机技术领域，尤其涉及一种基于全局解耦的GPU内部能耗控制系统及方法。

背景技术

随着智能时代的到来，计算机需要处理的数据量级急剧增加。异构系统对大数据量的计算有更好的并行性能，但是异构系统的能量问题却成为了制约高性能计算的瓶颈。目前，DVFS技术被广泛运用在异构系统的能量管理中。DVFS主要是通过调节异构系统中能量模块的工作电压或是工作频率进行能量控制的。目前的DVFS能量控制技术主要有两种策略，一种策略是动态的实时控制策略。这种策略通过对异构系统内部能量状态进行跟踪实现能量控制。另一种策略是通过构建异构系统的能量模型，并通过预测算法对能量模块的工作状态进行调整来实现能量管理。

但是以上两种策略都是基于某个能量模块的局部调整。我们知道在异构系统中的各个能量模块并不是独立运行的，模块之间存在任务相关性。对某一模块的能量进行调整很可能会对其他模块的性能产生负面影响。因此，这种基于局部的孤立调整方式往往不能达到预期的整体能量控制目标。并且，这种独立的控制方案会产生耦合效应，影响最终的调整效果。

发明内容

本发明的目的在于解决上述现有技术存在的缺陷，提供一种能够提高系统能量管理效率的基于全局解耦的GPU内部能耗控制系统及方法。

一种基于全局解耦的GPU内部能耗控制系统，包括：Master-GPU模块、Slave-GPU模块、CPU；

所述Master-GPU是主控GPU，由它运行全局解耦网络，并生成三组控制信号C_SM,C_ICNT,C_MEM，通过该三组控制信号对Slave-GPU模块进行全局能耗控制；

所述Slave-GPU为被控GPU，包括三组能耗模块，分别是SM计算模块、MEM模块和ICNT模块，主控GPU产生的三组控制信号将分别对这三个模块的频率f_SM,f_MEM,f_ICNT进行实时全局控制；