[发明专利]具有片外带宽分配的多处理器高速缓存预取

说明书

背景技术

多处理器系统将数目更多的处理器内核集成到单个的集成电路芯片上。虽然数目更多的处理器内核可以允许集成电路芯片的更多的处理能力，但片外资源(诸如存储器)的可用带宽(即，片外带宽)可能无法像多个内核那样快地进行调整。片外带宽常常受限于在集成电路芯片与其接口部之间或在印刷电路板与其接口部之间进行接口的可用管脚的数量。这种可用片外带宽的限制可以表现为在处理器内核请求和接收对外部存储器的访问之间的延时。

一些处理器依靠预取来减小对外部存储器的访问的延时。在预取中，在预料到数据近期将会被处理器请求之前，该数据块从外部存储器被加载到高速缓存中。虽然平均来看预取能够减少程序的执行时间，但因为一些预取的块在它们从高速缓存被收回之前未被使用，所以这些预取是浪费的。在多个内核共享片外带宽的情况下，浪费的预取对于有限的片外带宽资源而言不是优化的使用。

附图说明

结合附图，本公开的以上以及其它特征通过下面的描述以及所附权利要求将会变得更加明显。理解到，这些附图仅仅描绘了根据本公开的几个实施例，因此，不被认为是对本申请范围的限制，通过使用附图，利用另外的具体描述和细节对本申请进行描述，其中：

图1是示例了被耦合于片外存储器的多处理器的功能性框图；

图2是示例了具有使用预取门控的预取带宽分配器的多核处理器的框图；

图3是示例了使用令牌箱来分配预取带宽的多处理器的框图；

图4是示例了用于分配多处理器高速缓存预取带宽的处理的流程图；以及

图5是示例了用于使用令牌来分配多处理器高速缓存预取带宽的处理(全部是根据本申请中所呈现的实施例而配置的)的流程图。

具体实施方式

在下面的详细描述中，参照了构成本申请的一部分的附图。在图中，类似的标记一般用于标识类似的组件，除非上下文另行进行了规定。说明书、附图以及权利要求中所描述的示例性的实施例不意味着是限制性的。在不脱离本申请中所陈述的主题的精神或范围的情况下，可以采用其它的实施方式和进行其它的改变。易于理解到，本申请中总体上描述的以及图中所示例的本公开的方面能够以许多不同的配置来设置、替换、组合、分开和设计，其全部都是本申请明确预见到的。

具体而言，本公开涉及了与在多处理器中改进高速缓存预取的片外带宽效率有关的方法、装置、系统和计算机程序产品。高速缓存预取可以由多核系统中的不同的内核生成，可用片外带宽的一部分可以被分配给那些过去产生了最有效的预取的内核。基于内核所预取的块最终有多么有用和及时，内核可以被赋予预取功效计分。具有较高的预取功效计分的内核可以被分配较大部分的片外带宽以用于其将来的预取请求。相比较而言，具有较低的预取功效计分的内核被分配的用于其将来预取请求的片外带宽的部分可以被减少。因而，带宽优先地或以较大比例地被分配给具有最有效预取的内核。

在一些例子中，描述了用于在多处理器计算系统的处理器内核之间分配预取带宽的技术。可以确定与多处理器的片外存储器接口相关联的预取带宽。可以建立在多处理器的两个或更多个处理器内核之间的预取带宽的划分。在多处理器的每个处理器内核处可以支持预取操作，以符合所建立的预取带宽的划分。

在其它的一些例子中，片外流量监控器模块可以监控与片外存储器总线相关联的片外存储器带宽。片外流量监控器可以确定与片外存储器总线相关联的非预取带宽。预取带宽分配器可以计算片外存储器总线的容量带宽与所确定的非预取带宽之间的差来作为预取带宽。可以维持与各个处理器内核相关联的预取功效计分。可以与各处理器内核的预取功效计分成比例地划分预取带宽。预取功效计分可以基于对如下内容的计数：在从高速缓存收回之前被标记成已使用的预取高速缓存条目的数量。预取带宽可以由令牌生成比率来表示。令牌箱可以被用来跟踪被分配给处理器内核的令牌。响应于预取操作的进行，令牌可以被消耗。

现在转到图1，功能框图100示例了至少根据本申请中所呈现的一些实施例的、被耦合于片外存储器120的多处理器110A。多处理器110A可以具有多个处理器内核，如内核1至内核N(140A-140D和140N)。这些可以整体地或总体上被称为处理器内核140。多个处理器内核140通常可以支持并行处理、并行任务、并行线程、单独的顺序处理或者其任意的组合。术语“多处理器”和“多核处理器”在本申请中可以被互换使用。