[发明专利]多类数据高速缓存策略

说明书

技术领域

本发明一般地涉及存储器管理领域，且更特别地，涉及多类数据高速 缓存策略。

背景技术

在一定的处理单元中的存储器子系统的一个元件是二级高速缓存存 储器(此处称为“L2高速缓存”)。L2高速缓存是大的片上存储器，其用作 在外部存储器(例如帧缓冲器存储器)和存储器子系统的内部客户端(此 处称为“客户端”)之间的中间点。L2高速缓存临时地存储各种客户端正 在使用的数据。该数据可以从外部存储器中获得或写入外部存储器(此处 称为“DRAM”)。客户端可以再使用存储在L2高速缓存中的数据同时实施一 定的操作。

在读操作期间，客户端可以从L2高速缓存中请求当前未存储在L2高 速缓存中的数据，因此该数据必须要从DRAM中获得。必须从DRAM中获得 数据的读操作比直接从L2高速缓存中获得数据的读操作要以明显更多的 时钟周期来处理。因此，如果非常多数目的读操作的数据必须从DRAM获取， 那么总体系统性能会严重地影响。但是，由于分配给L2高速缓存的存储器 空间是限制的，因此驻存在L2高速缓存的数据需要惯常地逐出以为由客户 端发送的将来的读或写操作释放存储器空间。如果驻存在L2高速缓存上的 数据没有足够频繁地逐出，那么将来的读和写操作必须停止直到L2高速缓 存中有空间来处理那些操作。再次，这样的动态能明显地影响总体系统性 能。

常规逐出方案通常实施最少最近使用的数据从高速缓存逐出的策略。 但是，在一定的系统中，其中数据的使用形式改变，这样的方法可能不会 达到在快速地逐出数据以为将来的读和写操作制造空间和允许数据在高速 缓存中保留足够长的时间以再使用而避免向外部存储器请求数据之间的合 适的平衡。

如前所说明，本领域需要的是确定哪些数据应当首先从中间高速缓存 (例如L2高速缓存)中逐出的更有效的机制。

发明内容

本发明的一个实施例阐明了一种用于从耦合于一个或多个客户端和 外部存储器的中间高速缓存逐出数据的方法。该方法包括下列步骤：从客 户端接收包括相关存储器地址的命令；在中间高速缓存中识别一个或多个 高速缓存行以基于存储器地址存储与命令相关的数据；确定相对于一个或 多个高速缓存行存在高速缓存缺失；和基于与驻存在一个或多个高速缓存 行中的数据相关的一个或多个逐出类使得驻存在一个或多个高速缓存行中 的数据的至少一部分逐出，或停止该命令，其中每个逐出类反映了与逐出 类相关的数据由客户端或不同的客户端再使用的不同的可能性。

公开的方法的一个优点是，与存储在数据高速缓存中的数据相关的数 据类允许当给与进入的读或写命令相关的数据制造空间时，标记查找单元 将具有最少再使用可能性的数据逐出。该逐出数据的机制降低了对可能由 系统中的客户端再使用的数据的早期逐出造成的高速缓存缺失的数目。

附图说明

为了详细地理解本发明的上述特征，对于以上简要说明的本发明，将 参照实施例进行更为具体的描述，其中对一些实施例在附图中进行了图示。 然而，需要注意的是，附图只是图示本发明的代表性实施例，因此不能认 为附图限制了本发明的范围，本发明可以允许其他同样有效的实施例。

图1是图示配置为实现本发明一个或多个方面的计算机系统的框图；

图2是根据本发明一个实施例的图1中的计算机系统的并行处理子系 统的框图；

图3A是根据本发明一个实施例的图2中的并行处理单元之一中的通 用处理簇的框图；

图3B是根据本发明一个实施例的图2中的并行处理单元之一中的分 区单元的框图；

图4是根据本发明一个实施例的图3B的分区单元的详细的框图；和

图5A-5D阐明了根据本发明一个实施例的用于管理数据流入和流出图 4的数据高速缓存的方法步骤的流程图。

具体实施方式

在下文的描述中，给出了大量具体的细节以便提供对本发明更为彻底 的理解。然而，对于本领域技术人员来说显而易见的是，本发明可以无需 一个或多个这些具体细节而得以实施。在其他的例子中，为了避免与本发 明发生混淆，对于公知的特征未进行描述。

系统概述