[发明专利]在基于区域的高速缓存目录方案中加速对私有区域的访问

说明书

公开了用于在基于区域的高速缓存目录方案中加速对私有区域的访问的系统、设备和方法。一种系统包括多个处理节点、一个或多个存储器装置和一个或多个基于区域的高速缓存目录，以管理所述节点的高速缓存子系统之间的高速缓存一致性。基于区域的高速缓存目录基于区域而非基于高速缓存线来跟踪一致性，其中区域包括多条高速缓存线。仅由单个节点访问的区域的高速缓存目录条目本地高速缓存在所述节点处。在本地进行对这些条目的参考计数的更新而不是向所述高速缓存目录发送更新。当第二节点访问第一节点的私有区域时，所述区域现在被视为共享，并且此区域的条目从所述第一节点传送回所述高速缓存目录。

背景技术

相关技术的描述

计算机系统使用通常由廉价且高密度的动态随机存取存储器(DRAM)芯片形成的主存储器。然而，DRAM芯片承受相对长的访问时间。为了提高性能，数据处理器通常包括至少一个称为高速缓存的本地高速存储器。在多核数据处理器中，每个数据处理器核心可具有其自己的专用一级(L1)高速缓存，而其他高速缓存(例如，二级(L2)高速缓存、三级(L3)高速缓存)则由数据处理器核心共享。

计算系统中的高速缓存子系统包括存储数据块的高速的高速缓存存储器。如本文所使用，“块”是存储在连续存储器位置中的一组字节，所述一组字节出于一致性目的而被视为一个单元。如本文所使用，术语“高速缓存块”、“块”、“高速缓存线”和“线”中的每一者是可互换的。在一些实现方式中，块也可以是高速缓存中的分配和解除分配的单元。块中的字节的数量根据设计选择而变化。

在多节点计算机系统中，必须采取特殊的预防措施来维持不同处理节点正在使用的数据的一致性。例如，如果处理器尝试访问某个存储器地址处的数据，则它必须首先确定存储器是否存储在另一个高速缓存中并且已被修改。为了实现此高速缓存一致性协议，高速缓存通常包含多个状态位以指示高速缓存线的状态，从而维持整个系统的数据一致性。一种常见的一致性协议称为“MOESI”协议。根据MOESI协议，每条高速缓存线包括用于指示所述线处于哪个MOESI状态的状态位，所述状态位包括指示以下各项的位：高速缓存线已被修改(M)，高速缓存线是独占的(E)或共享的(S)，或者高速缓存线是无效的(I)。占用(O)状态指示：所述线在一个高速缓存中被修改，在其他高速缓存中可能存在共享副本，以及存储器中的数据已过时。

高速缓存目录是高性能可扩展系统中的关键构建块。高速缓存目录用于跟踪系统当前正在使用的高速缓存线。高速缓存目录通过仅在需要时执行存储器请求或探针请求而既提高存储器带宽又减小探针带宽。逻辑上，高速缓存目录驻留在强制执行高速缓存一致性协议的高速缓存线的主节点处。高速缓存目录的工作原理是包容性(即，存在于中央处理单元(CPU)高速缓存中的线必须存在于高速缓存目录中)。在基于高速缓存线的目录方案中，单独跟踪每条高速缓存线。因此，高速缓存目录的大小必须随计算系统中所有CPU高速缓存子系统的总容量线性增大。随着存储器技术的改进，总CPU高速缓存大小趋于呈指数增长。因此，基于线的高速缓存目录方案无法跟上CPU高速缓存大小的指数增长。

附图说明

通过结合附图参考以下描述，可更好地理解本文描述的方法和机制的优点，在附图中：

图1是计算系统的一个实现方式的框图。

图2是核心复合体的一个实现方式的框图。

图3是多CPU系统的一个实现方式的框图。

图4是基于区域的高速缓存目录的一个实现方式的框图。

图5示出基于私有区域的高速缓存目录条目的一个实现方式。

图6是示出用于针对基于区域的高速缓存目录方案加速对私有区域的访问的方法的一个实现方式的一般化流程图。

图7是示出用于维持基于区域的高速缓存目录的方法的一个实现方式的一般化流程图。