[发明专利]多层缓存安置机制

说明书

缓存系统中的数据存储受缓存监视器控制。缓存行响应于来自缓存客户端的存储器指令而被填充。缓存监视器包括预测器表和更新逻辑。预测器表中的条目包括指令标识符并且针对系统中的每个缓存包括重用计数器，该指令标识符将该条目与存储器指令相关联。更新逻辑被配置为根据响应于存储器指令的缓存行为来更新重用计数器表。响应于具有第一指令标识符的存储器指令将第一数据地址的数据存储在缓存中取决于预测器表中与第一指令标识符相关联的条目中的重用计数器值。根据缓存行为来更新重用计数器。布隆过滤器或其他数据结构可用于使数据地址与存储器指令相关联。

背景技术

缓存是用于在数据处理装置中临时存储数据的存储器。通常，缓存是较小的高速存储器，其存储来自后备存储设备的数据的子集的副本。后备存储设备通常是较大、较慢的存储器或数据存储设备。缓存中的数据由诸如中央处理单元(CPU)之类的缓存客户端使用。当经常使用的数据在缓存中可用时，CPU的性能得到增强，从而避免了与从后备存储设备读取数据相关联的等待时间。

多层缓存系统可包含多个缓存级别，范围从最接近CPU的最小最快的缓存到最接近存储器的最大、最慢的缓存。

由于缓存的存储容量受限制，因此其被快速填充并且替换策略用来确定将缓存中的哪一行逐出以便为新行腾出空间。例如，最近最少使用(LRU)的缓存行可被逐出。

该方法可能是低效的。例如，从主存储器取回的新数据可能仅被使用一次，在这种情况下，将数据存储在缓存中没有优势。因此，需要确定新数据何时应被存储在缓存中以及它们何时应该绕过缓存并直接去往CPU。

此外，如果数据在给定级别上未被重用，则在该级别的多层缓存中进行的数据安置(placement)可能是不被期望的。因此，还需要确定哪个或哪些缓存级别将用于存储新数据。

附图说明

附图提供了视觉表示，其将被用于更充分地描述各种代表性实施例，并且可以被本领域技术人员用来更好地理解所公开的代表性实施例及其固有优点。在这些附图中，相似的附图标记标识对应的元素。

图1是根据各种代表性实施例的数据处理系统的框图；

图2和图3是条形图，它们针对许多不同的基准工作负载示出了在被从缓存中逐出之前未被重用的缓存块的比例；

图4是条形图，其示出了具有接近恒定的缓存行为的存储器指令的比例；

图5图示出根据本公开的实施例的预测器表；

图6是图示出根据本公开的实施例的根据重用计数器值进行的缓存安置的表；

图7是与本公开的实施例一致的用于缓存安置的方法的流程图；

图8是与本公开的实施例一致的缓存安置方法的另一流程图；

图9示出了与本公开的实施例一致的另一预测器表的示例；

图10是根据本公开的实施例的多层缓存安置系统的框图；

图11是根据本公开的各种实施例的数据处理装置的简化框图；

图12是根据本公开的实施例的用于更新预测器表的方法的流程图；并且

图13是与本公开的实施例一致的用于缓存监视和安置的方法的流程图。

具体实施方式

虽然本公开可以有许多不同的形式的实施例，但是在附图中示出并且将在本文中详细描述特定实施例，应理解本公开将被视为本公开的原理的示例并且不是旨在将本公开限制于所示出和描述的具体实施例。在下面的描述中，相似的附图标记用于描述附图的若干视图中的相同、类似或对应的部分。