[发明专利]灵活高速缓存分配技术的基于优先级的高速缓存行驱逐算法

权利要求书

1.一种系统，包括：

具有多个通道的末级高速缓存LLC，每个通道被分配给多个优先级中的一个优先级，每个优先级与指定要占用的最小通道数量和最大通道数量的服务类CLOS寄存器相关联；

高速缓存控制电路CCC，所述CCC用于：

当无效高速缓存行CL存在于所述LLC中时，将具有请求方优先级的传入高速缓存行CL存储到所述无效CL，所述请求方优先级是所述多个优先级中的一个优先级；

当所述请求方优先级是所述多个优先级中的最低优先级且具有一或更大的占用时，或者当所述占用处于所述请求方优先级的最大值时，存储所述传入CL以替代具有所述请求方优先级的最近最少使用的LRU CL；

当所述占用在所述请求方优先级的最小值与最大值之间时，存储所述传入CL以替代具有所述请求方优先级或更低优先级的LRU CL；

当所述占用小于所述最小值且具有所述更低优先级的CL存在时，存储所述传入CL以替代具有所述更低优先级的LRU CL；以及

当不存在无效CL或不存在具有所述请求方优先级或更低优先级的CL时，存储所述传入CL以替代具有更高优先级的LRU CL。

2.如权利要求1所述的系统，其中，所述LLC包括多个通道集合，其中，所述多个通道是所述多个集合中的一个集合的部分，并且其中，在确定将所述传入CL存储到何处之前，所述CCC用于基于对所述传入CL的逻辑地址执行的散列算法来确定所述多个集合中的哪个集合包括所述传入CL。

3.如权利要求1所述的系统，进一步包括高速缓存监视器电路，用于维护与LLC高速缓存驱逐有关的试探，其中，当大于具有高优先级的高速缓存行的阈值百分比被驱逐以为填充具有更低优先级的传入CL腾出空间时，用于所述高优先级的CLOS寄存器用于被更新以增加要占用的最少通道和最多通道。

4.如权利要求1所述的系统，其中，所述多个通道中的每个通道包括N个CL，其中，N是大于或等于1的正整数。

5.如权利要求1所述的系统，其中，当在存在具有所述更低优先级的任何LRU CL的情况下存储所述传入CL以替代具有所述更低优先级的LRU CL时，所述CCC用于在存在包含所述LRU CL的通道中的任何其他CL的情况下引起其他CL的转储清除。

6.如权利要求1-5中的任一项所述的系统，进一步包括处理器，所述处理器包含所述LLC和所述CCC并包括一个或多个核，所述一个或多个核中的每个核用于实现虚拟机，并且其中，所述CCC包括管理程序。

7.如权利要求6所述的系统，其中，所述处理器是云服务提供方的数据中心中的多个处理器中的一个处理器。

8.一种由系统中的高速缓存控制电路CCC执行的方法，所述系统包括末级高速缓存LLC，所述LLC具有多个通道，每个通道被分配给多个优先级中的一个优先级，每个优先级与指定要占用的最小通道数量和最大通道数量的服务类CLOS寄存器相关联，所述方法包括：

接收将具有所述多个优先级中的请求方优先级的传入高速缓存行CL存储到所述LLC中的请求；

当无效CL存在于所述LLC中时，将所述传入CL存储到所述无效CL；

当所述请求方优先级是所述多个优先级中的最低优先级且具有一或更大的占用时，或者当所述占用处于所述请求方优先级的最大值时，存储所述传入CL以替代具有所述请求方优先级的最近最少使用的LRU CL；

当所述占用在所述请求方优先级的最小值与最大值之间时，存储所述传入CL以替代具有所述请求方优先级或更低优先级的LRU CL；

当所述占用小于所述最小值且具有所述更低优先级的CL存在时，存储所述传入CL以替代具有所述更低优先级的LRU CL；以及

当不存在无效CL或不存在具有所述请求方优先级或更低优先级的CL时，存储所述传入CL以替代具有更高优先级的LRU CL。