[发明专利]一种抢占式高速缓存写回方法、处理系统和处理器

说明书

一种抢占式高速缓存写回方法包括从第一高速缓存(118)的第一高速缓存控制器(120)向第二高速缓存(122)的第二高速缓存控制器(124)传输未使用带宽消息，所述未使用带宽消息表示在第一循环期间在所述第一高速缓存与所述第二高速缓存之间的未使用带宽。在第二循环期间，基于所述未使用带宽消息，将包含脏数据的高速缓存行从所述第二高速缓存抢占式地写回到所述第一高速缓存。此外，响应于对所述第二高速缓存的高速缓存缺失而改写所述第二高速缓存中的所述高速缓存行。

政府许可权

本发明是在美国能源部(DOE)授予劳伦斯·利弗莫尔国家安全局的PathForward项目(主合同No.DE-AC52-07NA27344，分包合同No.B620717)的政府支持下完成的。政府享有本发明的某些权利。

背景技术

处理系统通常实现一个或多个计算复合体，每一计算复合体具有多个处理器内核和具有两个或更多级的高速缓存层次结构。等待时间段与处理器内核请求数据的时间与接收到请求的数据的时间之间的时间相关联。为了最大程度地减少处理器内核用于闲置和等待数据的时间，许多处理系统使用高速缓存层次结构中的高速缓存存储器来存储程序指令和数据的临时副本。在高速缓存层次结构中，每一处理器内核与对应内核专用的一个或多个高速缓存级别(下文中称为“私有高速缓存”)相关联。处理系统还在高速缓存层次结构的另一级别上实现共享高速缓存，其中共享高速缓存在计算复合体的处理器内核之间共享(下文中称为“共享高速缓存”)。

附图说明

通过参考附图，可以更好地理解本公开，并且本公开的众多特征和优点对于本领域技术人员而言是显而易见的。在不同图式中使用相同的附图标记来指示类似或相同的项目。

图1是根据一些实施方案的利用抢占式高速缓存写回的处理系统的框图。

图2是图示根据一些实施方案的示例性抢占式高速缓存写回操作的框图。

图3是图示根据一些实施方案的另一示例性抢占式高速缓存写回操作的框图。

图4是图示根据一些实施方案的又一示例性抢占式高速缓存写回操作的框图。

图5是图示根据一些实施方案的抢占式高速缓存写回方法的流程图。

具体实施方式

图1到图5图示利用抢占式高速缓存写回以减少高速缓存内的脏行的数目的技术，由此缩短由于“脏”行(也就是说，在高速缓存处已被修改，但尚未被写入到较低级别的高速缓存的高速缓存行)的写回而导致的未来高速缓存缺失的等待时间。为了说明，在多核处理系统中，其中每一内核与一个或多个级别的私有高速缓存相关联并且内核共享高速缓存层次结构的另一非私有级别处的共享高速缓存，如果高速缓存处发生高速缓存缺失，则对应的高速缓存控制器可能需要驱逐高速缓存行以便为“缺失”的数据(即，与导致高速缓存缺失的存储器地址相关联的数据)腾出空间。常见地，如果要驱逐的高速缓存行是脏高速缓存行，则高速缓存控制器通过在驱逐高速缓存行之前将脏高速缓存行写入(称为“写回”)到较低级别的高速缓存或主存储器来保持存储器一致性。写回因此会给导致脏高速缓存行的写回的每一高速缓存缺失带来性能惩罚。

为了减轻这种性能惩罚，在各种实施方案中，处理系统通过从第一高速缓存的高速缓存控制器和第二高速缓存的高速缓存控制器周期性地传输未使用带宽消息来采用抢占式缓存写回，所述未使用带宽消息表示在第一循环期间在第一高速缓存与第二高速缓存之间的未使用带宽。在第二高速缓存的高速缓存控制器处计算高速缓存行的数目，基于未使用带宽消息，所述数目的高速缓存行可以抢占式地从第二高速缓存写入到第一高速缓存而不会超过未使用带宽。在第二循环期间，将计算出数目的高速缓存行从第二高速缓存抢占式地写回到第一高速缓存。计算出数目的高速缓存行的这种抢占式高速缓存写回减少在遇到需要从第二高速缓存驱逐脏高速缓存行的高速缓存缺失之前的第二高速缓存中的脏高速缓存行的数目。因此，可以改写与第二高速缓存的未来高速缓存缺失相关联的数据，而无需等待到较低级别的高速缓存和/或系统存储器的写回，从而减少系统资源的浪费(例如，高速缓存之间的带宽)并且提高性能。