[发明专利]一种针对包容性末级高速缓存的替换方法

说明书

技术领域

本发明涉及处理器中包容性末级高速缓存的替换方法。

背景技术

由于处理器和主存储器之间的性能差距越来越大，在现代处理器中使用多级高速缓存来填补这个差距。在多级高速缓存设计中一个重要的问题是是否能够保证数据的包容性。在包容性高速缓存中，末级高速缓存包含所有内部高速缓存的数据，因此包容性末级高速缓存可以为内部高速缓存过滤不必要的一致性信息来简化一致性协议的实现。因此包容性高速缓存在很多新近提出的处理器中被使用。但是相比其它高速缓存结构，包容性高速缓存由于两个原因造成其性能较低。第一个原因是由于数据在不同缓存中的复制，造成有效缓存空间减少。第二个原因是为了保证包容性，在末级缓存中排出一个高速缓存块需要同时在内部缓存中把该块置为无效，这些为保证包容性而在内部缓存中被无效的块叫做包容性受害者。局部性通常用来表示一个块被访问的可能性，而由于内部缓存过滤掉大部分访问的局部性，包容性受害者有可能在内部缓存中局部性很好，对它们的下次访问会在所有缓存中失效从而影响性能。

现有的末级高速缓存管理策略主要有如下两方面：包容性高速缓存的管理策略以及互斥性和非包容性高速缓存的管理策略。

包容性高速缓存管理策略：为减少包容性受害者，全局替换策略(GlobalReplacement)把内部缓存中的命中暴露给末级缓存。在内部缓存命中时，内部缓存用一个消息通知末级缓存更新命中块在末级缓存中的替换状态。

Fletcher等人提出了三种减少直接相联包容性末级缓存的包容性受害者的方法：一是增加缓存的相联度；二是使用一个受害者缓存；三是放松对包容性的要求，加入一个一致性过滤器。Jaleel等人提出了三种改进包容性末级缓存性能的方法：时间局部性提示方法(Temporal Locality Hint，TLH)通过发出局部性暗示信息来把内部缓存中的局部性信息通知末级缓存；提前无效方法(Early Core Invalidation，ECI)通过提前无效内部缓存中的块来得到该块的局部性信息；基于查询的选择方法(Query Based Selection，QBS)通过查询内部缓存来得到局部性信息。

互斥性和非包容性高速缓存管理策略：动态插入算法(Dynamic InsertionPolicy，DIP)通过把局部性差的块的插入最近最少使用(Least Recently Use，LRU)位置来避免缓存的颠簸。再访问插入预测(Re-Reference InsertionPrediction，RRIP)通过区分在缓存中被访问过的块和没被访问过的块，使得前者在缓存中停留的时间更长来改善性能。伪后进先出(Pseudo-Last-In-First-Out，Pseudo-LIFO)通过优先排出栈顶端的块，使得栈低端的块被保存的时间更长。基于签名的命中预测(Signature-based HitPredictor，SHiP)通过预测块的重用距离来在RRIP的基础上改善性能。

死亡块预测技术通过预测一个块的最后一次访问来提高性能。基于预测的方法，死亡块预测技术可以分为基于踪迹的、基于时间的和基于计数器的。合并连续访问方法通过对连续的访问进行预测来提高准确率。基于采样的死亡块预测方法通过采样一部分访问来训练预测器，从而减少硬件开销和提高预测准确率。

旁路方法通过预测并旁路那些在被排出之前没被使用的块来提高性能。根据预测的方法可以分为基于程序计数器(Program Counter，PC)的和基于地址的。较少再用过滤器(Less Reused Filter，LRF)通过既使用基于PC的又使用基于地址的预测器来提高性能。使用自适应旁路的分段替换(Dueling Segmented replacement with adaptive Bypassing，D SB)在失效时记录进入块和排出块的对，通过比较它们被访问的顺序来决定旁路的使用概率。Gaur等人提出了一个针对互斥性末级高速缓存的旁路和插入方法。

以上这些方法要么是针对互斥性和非包容性高速缓存的，要么只专注于减少包容性高速缓存的包容性受害者而无法进一步提高性能。本发明旨在提出一种在需要较少的硬件开销的可以提高包容性末级高速缓存性能的管理策略。

发明内容

为了在不牺牲包容性末级高速缓存一致性协议简单的优点的情况下，提高包容性末级缓存的性能，本发明提供一种针对包容性末级高速缓存的替换方法。

为了解决上述技术问题，本发明提供了一种针对包容性末级高速缓存的替换方法，包括：