[发明专利]开销感知高速缓存替换

权利要求书

1.一种高速缓存管理方法，所述方法包括：

识别高速缓存中的最近最少使用的高速缓存行的数目；

确定与所述识别的最近最少使用的高速缓存行的数目相关联的未命中开销；以及替换所述识别数目的最近最少使用的高速缓存行中具有最低未命中开销的高速缓存行。

2.根据权利要求1所述的方法，其中所述数目的最近最少使用的高速缓存行属于所述高速缓存的集合的多个通路。

3.根据权利要求2所述的方法，包括记录使用与所述集合相关联的最近最少使用LRU堆叠中的所述多个通路的所述高速缓存行的次序，其中最近最少使用的高速缓存行的所述数目对应于所述LRU堆叠的一部分。

4.根据权利要求3所述的方法，其中最近最少使用的高速缓存行的所述数目是固定的。

5.根据权利要求3所述的方法，包括基于具有对应于所述LRU堆叠的第一部分的第一数目的最近最少使用的高速缓存行的第一引导集与具有对应于所述LRU堆叠的第二部分的第二数目的最近最少使用的高速缓存行的第二引导集之间的集合竞争来为所述高速缓存的跟随集动态地选择最近最少使用的高速缓存行的所述数目。

6.根据权利要求5所述的方法，包括基于用于追踪所述第一引导集和所述第二引导集的性能的饱和计数器来为所述跟随集动态选择所述数目的最近最少使用的高速缓存行。

7.根据权利要求1所述的方法，其中所述未命中开销是基于与所述高速缓存行相关联的操作类型，所述操作类型按最高开销到最低开销的次序为指令高速缓存读取、数据高速缓存读取、数据高速缓存写入、预取以及回写。

8.一种设备，其包括：

高速缓存；以及

高速缓存控制器，其被配置成管理所述高速缓存，其中所述高速缓存控制器被配置成进行以下操作：

识别所述高速缓存中的最近最少使用的高速缓存行的数目；

确定与所述识别的最近最少使用的高速缓存行的数目相关联的未命中开销；以及

替换所述识别数目的最近最少使用的高速缓存行中具有最低未命中开销的高速缓存行。

9.根据权利要求8所述的设备，其中所述数目的最近最少使用的高速缓存行属于所述高速缓存的集合的多个通路。

10.根据权利要求9所述的设备，进一步包括与所述集合相关联的最近最少使用LRU堆叠，其中所述高速缓存控制器进一步被配置成记录使用所述LRU堆叠中的所述多个通路的所述高速缓存行的次序，其中最近最少使用的高速缓存行的所述数目对应于所述LRU堆叠的一部分。

11.根据权利要求10所述的设备，其中最近最少使用的高速缓存行的所述数目是固定的。

12.根据权利要求10所述的设备，其中所述高速缓存控制器被配置成基于具有对应于所述LRU堆叠的第一部分的第一数目的最近最少使用的高速缓存行的第一引导集与具有对应于所述LRU堆叠的第二部分的第二数目的最近最少使用的高速缓存行的第二引导集之间的竞争集合来为跟随集的所述高速缓存动态地选择最近最少使用的高速缓存行的所述数目。

13.根据权利要求12所述的设备，进一步包括被配置成追踪所述第一引导集和所述第二引导集的性能的饱和计数器，其中所述高速缓存控制器被配置成基于所述饱和计数器为所述跟随集动态地选择最近最少使用的高速缓存行的所述数目。

14.根据权利要求8所述的设备，其中所述未命中开销是基于与所述高速缓存行相关联的操作类型，所述操作类型按最高开销到最低开销的次序为指令高速缓存读取、数据高速缓存读取、数据高速缓存写入、预取以及回写。