[发明专利]平衡计算节点中的分立组件之间的功率

说明书

本公开涉及平衡计算节点中的分立组件之间的功率。用于平衡计算节点或平台中的分立组件(例如处理单元(例如，CPU)和加速器)之间的功率的方法和装置。监视计算平台的功率消耗以检测超过阈值(例如，电力供应容量阈值)的状况。作为响应，调整处理单元和/或诸如加速器之类的其他平台组件的操作频率，以降低平台的功率消耗，以返回到阈值以下。功率限制偏置提示(缩放权重)与功率违反指数一起被提供给平台组件，它们被用于调整平台组件的操作频率。可选地，处理单元可计算功率违反指数和缩放权重并且直接控制其自身和平台组件的频率。还提供了多插座平台的实施例。

技术领域

本公开涉及平衡计算节点中的分立组件之间的功率。

背景技术

为了解决下一代机器学习和高性能计算问题，业界正在走向带有加速器和诸如中央处理单元(Central Processing Unit，CPU)之类的处理单元的异构计算。为了实现最大性能，CPU和加速器的热设计功率(Thermal Design Power，TDP)都在增大。取决于CPU与加速器的比率，计算节点的整体功率因此在增大。这意味着节点的电力供应单元(PowerSupply Unit，PSU)的大小应当被设置为支持来自平台上的所有组件的TDP之和。然而，取决于工作负载行为，并非所有的平台组件都在同一时间消耗其TDP。从时间分布的视角来看，一些工作负载是以CPU为中心或者以加速器为中心的。

历史上，具有各种程度的能力的计算节点的功率管理是利用基板管理控制器(Baseboard Management Controller，BMC)、节点管理器(Node Manager，NM)或者数据中心管理器(Data Center Manager，DCM)完成的。在所有这些情况下，改变/平衡功率的响应时间在100ms范围中，这太慢了，以至于无法允许平台缩小PSU的大小。从而，PSU必须被设计为应对节点中的所有组件的最大TDP，这很昂贵，而且是一种“过度设计”，因为在实践中，在大多数时间并非所有组件都在同时被以最大功率来操作。

发明内容

根据本公开的一方面，提供了一种用于在包括一个或多个处理单元和多个可变频率组件的计算平台上平衡功率的方法，包括：监视所述计算平台的功率消耗；基于所述计算平台的功率消耗，调整以下各项中的至少一者的操作频率以降低所述计算平台的功率消耗：所述一个或多个处理单元；以及所述多个可变频率组件。

根据本公开的一方面，提供了一种计算平台，包括：中央处理单元(CPU)，与存储器耦合并且被配置为改变操作频率以实现功率消耗的变化；多个可变频率组件，与所述CPU耦合，所述多个可变频率组件中的每一者被配置为改变操作频率以实现功率消耗的变化；其中存储固件的固件存储设备，与所述CPU操作性地耦合；电力供应单元(PSU)；功率监视传感器，被配置为感测从所述PSU汲取的功率；一个或多个电压调节器，与所述PCU耦合并且被配置为向所述CPU和所述多个可变频率组件供应电力，其中所述计算平台被配置为：经由所述功率监视传感器检测所述平台的功率消耗；并且调整所述多个可变频率组件和所述CPU中的至少一者的操作频率以降低所述计算平台的功率消耗。

根据本公开的一方面，提供了一种多插座平台，包括：多个插座，每个插座包括：中央处理单元(CPU)，与存储器耦合并且被配置为改变操作频率以实现功率消耗的变化；多个加速器，与所述CPU耦合，所述多个加速器中的每一者被配置为改变操作频率以实现功率消耗的变化；其中存储固件的固件存储设备，与至少一个插座操作性地耦合；电力供应单元(PSU)；功率监视传感器，来感测从所述PSU汲取的功率；以及一个或多个电压调节器，与所述PCU耦合并且被配置为向所述多个插座中的CPU和加速器供应电力，其中，所述多插座平台被配置为：利用来自所述功率监视器的输出来检测所述多插座平台的功率消耗水平；并且调整以下各项中的至少一者的操作频率以降低所述多插座平台的功率消耗：一个或多个CPU；以及一个或多个加速器。