[发明专利]多层缓存安置机制

权利要求书

1.一种存储器装置，包括：

缓存系统，其包括一个或多个缓存，每个缓存被配置为存储多个缓存行，每个缓存行包括地址标签和数据块，其中，缓存行响应于来自缓存客户端的存储器指令被填充；以及

缓存监视器，其包括：

预测器表，其中，所述预测器表中的条目包括指令标识符并且针对所述一个或多个缓存中的每一者包括重用计数器，所述指令标识符使该条目与存储器指令相关联；以及

更新逻辑，其中，所述更新逻辑被配置为：根据响应于存储器指令的缓存行为来更新所述预测器表中的条目的重用计数器；

其中，响应于具有第一指令标识符的、针对第一数据地址处的数据的存储器指令的执行，根据所述预测器表中与所述第一指令标识符相关联的条目中的重用计数器值将所述第一数据地址处的数据存储在所述缓存系统中。

2.如权利要求1所述的存储器装置，其中，预测表中的与存储器指令相关联的条目的重用计数器在该存储器指令产生缓存命中时递增，并且在该存储器指令产生缓存未命中时递减。

3.如权利要求1或权利要求2所述的存储器装置，其中，所述预测器表中的条目还包括针对所述一个或多个缓存中的每一者的预测结果，并且其中，所述更新逻辑还被配置为根据条目的重用计数器的值来更新该条目的预测结果。

4.如权利要求3所述的存储器装置，还包括后备存储器，其中，所述后备存储器被配置为在单个事务中访问指令和相关联的元数据，并且其中，该元数据包括与该指令相关联的预测结果。

5.如权利要求1至4中的任一项所述的存储器装置，其中，所述预测器表中的与第一存储器指令相关联的条目还包括概率数据结构，该概率数据结构指示所述第一存储器指令所访问的数据地址。

6.如权利要求5所述的存储器装置，其中，所述预测器表中的所述概率数据结构包括布隆过滤器，并且其中，所述存储器装置的所述缓存监视器还包括：

布隆过滤器逻辑，其被配置为：用所述第一数据地址的标识符来更新与所述第一存储器指令相关联的条目的布隆过滤器。

7.如权利要求6所述的存储器装置，其中，响应于从所述一个或多个缓存中的缓存中逐出第二数据地址处的数据，所述预测表中下述条目的重用计数器在第二地址处的数据在该缓存中曾被重用的情况下递增并且在所述第二地址处的数据在该缓存中未曾被重用的情况下递减：该条目的布隆过滤器包含所述第二地址。

8.如权利要求1至7中的任一项所述的存储器装置，其中，所述缓存系统包括多层缓存。

9.如权利要求8所述的存储器装置，其中，所述多层缓存的缓存是从多个虚拟地址空间访问的共享缓存，其中，所述预测器表中的条目还包括与下述虚拟地址空间相关联的地址空间标识符：所述存储器指令是从所述虚拟地址空间发出的。

10.一种非暂态计算机可读介质，包含硬件语言的指令，这些指令定义了如权利要求1至9中的任一项所述的装置。

11.一种用于指导数据块在缓存系统中的安置的方法，包括：

当具有第一指令标识符的存储器指令所访问的第一数据地址处的数据未存储于所述缓存系统的缓存中时：

根据所述第一指令标识符来访问预测表，以取回与所述第一存储器指令和该缓存相关联的重用数据；

从多层缓存的较低级别缓存或存储器中取回包含第一数据的数据块；并且

根据所述重用数据，将该数据块插入到所述缓存系统的一个或多个缓存中或者绕过所述缓存系统。