[发明专利]用于高级高速缓存驱逐候选对象标识的巡查窥探

说明书

技术领域

本发明一般地涉及多级高速缓存。更具体地说，本发明涉及在必须将新的高速缓存线载入高级高速缓存时，标识高级高速缓存中作为高级高速缓存中的驱逐候选对象的高速缓存线。 

背景技术

现代计算机系统通常使用多级高速缓存。例如，非常快速但相对较小的一级高速缓存通常与处理器在同一半导体芯片上实现，并且在一个或多个处理器周期内为处理器提供数据。一级高速缓存(L1高速缓存)通常使用非常快速但不如较大较慢的存储器紧凑的静态随机存取存储器(SRAM)实现。一级高速缓存还必须相对较小，以限制控制、地址和信号互连的长度。在现代计算机系统中，二级高速缓存(L2高速缓存)通常也与处理器在同一半导体芯片上实现。二级高速缓存通常也使用SRAM存储器构建。通常，二级高速缓存的物理面积和存储的数据量比一级高速缓存大。访问(读取或写入)二级高速缓存通常慢于访问一级高速缓存。现代计算机系统还包括比二级高速缓存甚至包含更多数据并且甚至花费更长时间访问的三级高速缓存(L3高速缓存)。通常，三级高速缓存使用动态随机存取存储器(DRAM)实现，虽然SRAM存储器有时也用于三级高速缓存设计。 

高速缓存将数据存储在称为高速缓存线(cache line)的块中。例如，在各种计算机系统中，高速缓存线可以是64字节、128字节、256字节等。根据高速缓存线的地址和与高速缓存相连的替换逻辑将高速缓存线存储在高速缓存内的高速缓存线单元中。与高速缓存相连的高速缓存目录维护高速缓存中存储的每个高速缓存线的状态信息和标记信息。 

当处理器请求特定地址处的数据块时，计算机系统将检查数据是否存 储在一级高速缓存中。将此特定地址提供给一级高速缓存目录，后者将确定数据是否存储在一级高速缓存中。如果包含此数据块的高速缓存线存在于一级高速缓存中，将从一级高速缓存中取回数据以供处理器使用；这称为一级高速缓存中的高速缓存命中。如果包含此数据块的高速缓存线未保存在一级高速缓存中，一级高速缓存将报告高速缓存未命中。然后向二级高速缓存发出请求。如果二级高速缓存包含此特定数据块，则从二级高速缓存取回包含此特定数据块的高速缓存线并将其存储在一级高速缓存中。在许多实施方式中，此特定数据块可用于处理器，而包含此特定数据块的高速缓存线被写入一级高速缓存中。如果此特定数据块未保存在二级高速缓存中，将向三级高速缓存发出请求。如果此特定数据块保存在三级高速缓存中，则从三级高速缓存取回包括此特定数据块的高速缓存线并将其存储在二级高速缓存和一级高速缓存中并使其可用于处理器。如果在三级高速缓存中发生高速缓存未命中，则向四级高速缓存(如果存在四级高速缓存)或向主存储器发出进一步的请求。 

由于低级高速缓存保存的数据少于高级高速缓存，因此高级高速缓存中的多个高速缓存线位置映射到低级高速缓存中较少的高速缓存线位置。在现代计算机系统中，高速缓存通常被设计为具有关联性。关联性意味着特定高速缓存线映射到高速缓存中的特定组(行)，但支持高速缓存的替换逻辑可以将此特定高速缓存线置于此组内的多个类别(高速缓存线单元)中的任何一个类别中。特定组中的一个特定类别就是一个高速缓存线位置。例如，对于四路关联二级高速缓存，替换逻辑选择在四个类别中的哪个类别中存储映射到特定组的特定高速缓存线。 

当从高级高速缓存将高速缓存线写入高速缓存时，必须驱逐一个高速缓存线(写入高级高速缓存，或者如果高速缓存线中的数据未被修改，只是被改写)。 

在具有关联性的高速缓存中，替换算法选择将替换组中的哪个高速缓存线。例如，如果高速缓存是八路关联的(即每个组具有八个类别)，则必须驱逐八个高速缓存线中的一个高速缓存线，以便为具有映射到此组的地址的新高速缓存线释放空间。