[发明专利]至少具有三个缓存级别的缓存层级的混合低级缓存包含策略

说明书

一种系统(100)，包括一个或多个处理器核心(111‑114)、和缓存层级(104)。所述缓存层级包括一级缓存(121‑124)、二级缓存(131‑134)和三级缓存(140)。所述缓存层级还包括缓存层级控制逻辑(142)，所述缓存层级控制逻辑被配置为实现其中缓存在所述一级缓存中的每个缓存行均具有缓存在所述二级缓存和所述三级缓存中的至少一个中的所述缓存行的副本的缓存策略(144)。所述缓存策略还提供了从所述二级缓存中逐出缓存行不会触发从所述一级缓存中逐出该缓存行的副本，并且当所述缓存行不存在于所述二级缓存中时，从所述三级缓存中逐出缓存行会触发所述缓存层级控制逻辑，以从所述一级缓存中逐出该缓存行的副本。

背景技术

处理系统通常利用具有可供一个或多个处理器核心访问的多个缓存级别的缓存层级。对于具有三个或更多个缓存级别的缓存层级，在常规处理系统中，关于在最高级缓存(例如，L1缓存)处缓存的地址的数据，需要三种缓存策略中的一种：(1)所述数据不需要复制或包含在任何其他缓存中；(2)要求所述数据的副本始终包含第二最高级的缓存(例如，所述L2缓存)中，并且在从第二最高级的缓存中逐出缓存数据的副本时，还会发送无效消息以从最高级的缓存中逐出缓存的数据；或者(3)要求所述数据的副本始终包含在第三最高级的缓存(例如，L3缓存)中，并且在从第三最高级的缓存中逐出时，还会发送无效消息以从最高级的缓存中逐出缓存的数据。第一个策略的问题在于，由于不需要任何其他缓存级别的缓存数据的副本，因此对于无法访问最高级缓存的组件来说，可能无法访问缓存的数据，或缓存的数据从低级缓存中的缺失可能会导致在发现和访问缓存的数据之前出现过多的缓存丢失，从而影响系统性能。后两个策略的问题在于，由于它们导致过多的无效消息传递和缓存行逐出，这也对系统性能产生负面影响。

附图说明

通过参考附图，可以更好地理解本公开，并且使其许多特征和优点对于本领域技术人员来说是显而易见的。不同附图中使用的相同附图标记指代相似或相同物品。

图1是根据一些实施例的采用具有混合低级缓存包含策略的缓存层级的数据处理系统的框图。

图2是根据一些实施例的示出图1的数据处理系统的缓存层级的框图。

图3是示出根据一些实施例的用于将缓存行安装在数据处理系统的缓存层级的一级缓存中的混合低级缓存包含策略的一方面的流程图。

图4是示出根据一些实施例的用于从数据处理系统的缓存层级的二级缓存中逐出缓存行的混合低级缓存包含策略的一方面的流程图。

图5是示出根据一些实施例的用于从数据处理系统的缓存层级的三级缓存中逐出缓存行的混合低级缓存包含策略的一方面的流程图。

具体实施方式

图1至图5示出了用于在具有三个或更多个缓存级别的缓存层级中进行有效数据缓存的系统和方法。根据一些实施例，缓存层级的各种缓存的控制逻辑一起操作以实现混合低级缓存包含策略，所述混合低级缓存包含策略确保在最高级缓存处缓存的缓存行在缓存层级中的其他位置具有至少一个副本，同时还提供了比常规缓存策略更少的缓存间消息传递和逐出。如本文中更详细描述的，该缓存策略在本文中被称为“混合低级缓存包含策略”，其至少实现以下三个准则。首先，要求存在于一级缓存(例如，1级或L1缓存)中的缓存行位于二级缓存(例如，2级或L2缓存)或三级缓存(例如，3级或L3缓存)的至少一个中。其次，从二级缓存中逐出的缓存行不需要从一级缓存中逐出同一缓存行。第三，如果缓存行也不存在于二级缓存中，则从三级缓存中逐出缓存行需要从一级缓存中逐出该缓存行。这是有利的，因为如果系统已经在二级缓存和三级缓存中进行搜索以访问缓存行，则以上描述的缓存策略导致可以保证系统知道所寻求的缓存行是否也在一级缓存中。注意，如本文中所发现的，对缓存行“存在”于缓存中的引用是指副本既被存储在缓存中又在该缓存处具有有效状态。因此，在缓存处标记为“无效”或某些类似状态的缓存行的副本不被视为“存在”于该缓存处。