[发明专利]基于服务质量底限调度存储器带宽

说明书

一种系统包括多核处理器[102]，所述多核处理器包括调度器[111]。所述多核处理器与系统存储器[103]和操作系统[120]进行通信。所述多核处理器执行第一进程和第二进程。所述系统使用所述调度器来控制所述第二进程对存储器带宽的使用直到当所述第一进程的使用的第一设定点[129]处于或低于时延敏感(LS)底限时所述第一进程在控制周期中的当前使用满足所述第一设定点，或者当所述第一设定点超过所述LS底限时所述第一进程在所述控制周期中的当前使用超过所述LS底限。

背景技术

在诸如计算机服务器之类的处理系统中，处理器通常必须为来自同时执行的不同进程的任务提供服务，其中不同进程与不同用户、客户端和装置相关联。并发进程竞争处理资源。尽管可以对处理器和处理系统进行过度构建以确保某些资源始终可用，但是这种方法很昂贵，并且可能导致资源在其大部分生命周期中都处于空闲状态并且被浪费。在一些系统中，为了管理对不同进程的资源分配，操作系统实施优先级方案，其中为每个进程分配一个优先级，并且操作系统根据每个进程的优先级为其分配资源。然而，常规的优先级方案可能导致将资源过度分配给高优先级进程，尤其是当那些进程相对于一些资源处于空闲状态而其他进程相对于一些资源不处于空闲状态时。在高优先级进程的活动低的时间段中，受严格规则约束的处理系统会浪费原本低优先级进程可能会使用的大量计算能力。

附图说明

通过参考附图，可以更好地理解本公开，并且本公开的许多特征和优点对本领域技术人员来说可明显。在不同附图中使用相同的参考符号指示类似或相同的项。

图1是示出根据一些实施例的具有多个处理核和调度器以满足服务水平目标(SLO)的计算系统的框图。

图2至图6是示出根据一些实施例的用于操作计算系统的方法的流程图。

图7至图11是示出根据一些实施例的系统中在各个时间的时延敏感(LS)底限和非时延敏感(NLS)极限的表格。

图12是示出根据一些实施例的用于计算系统的随时间变化的资源消耗和进程时延的图形。

图13是示出根据一些实施例的用于计算系统中的进程的存储器带宽使用对存储器时延的图形。

具体实施方式

一般而言，图1至图13示出了用于向处理系统中的并发执行进程分配资源的技术，其中为每个进程分配了对各种有限的共享计算系统资源的可访问性的至少最小底限。此类有限资源(LR)包括以下各项中的至少一项：以计数或周期数量衡量的CPU可用性、存储器可用性(例如，L3存储器缓存可用性)、存储器带宽可用性、网络资源可用性、入站网络带宽使用、出站网络带宽使用等。计算系统管理有限资源以确保时延敏感(LS)进程和非时延敏感(NLS)进程满足服务水平目标(SLO)，同时最大程度地使用可用LR。尽管SLO包括强制性目标和理想目标，但是为了方便起见，强制性目标在本文中被称为目标或SLO，而理想SLO被称为设定点。处理系统还具有可以被测量并且在某种程度上可以控制但不能在进程之间分配的某些性质或特性。此类性质的示例包括存储器时延和总体进程时延。这些性质也可以是如本文进一步所述的控制方案中的SLO、理想目标或设定点。

作为特定示例，本文描述的技术控制NLS进程的存储器带宽使用。这导致系统存储器时延是可接受的，从而导致当LS进程需要至少其相应的存储器带宽底限时，每个LS进程都实现相应的期望存储器带宽底限。总之，系统控制一个变量(NLS存储器带宽使用)以便影响第二变量(影响所有进程的系统存储器时延)，以实现使LS进程获取其相应的SLO存储器带宽使用的目标。