[发明专利]一种共享高速缓存动态划分方法与电路

说明书

技术领域

本发明属于计算机技术领域，具体为一种共享高速缓存（Cache）动态划分方法与电路。

背景技术

随着处理器技术的发展，多核处理器的优势越来越明显，已经逐步取代单核处理器，成为微处理器发展的新方向。在多核处理器架构中通常将最后一级Cache共享，如在IBM POWER6和Intel i7架构中共享三级Cache，在Sun UltraSPARC T2架构中共享二级Cache。由于最后一级Cache被各核共享，所以一个核的活跃数据很有可能被其他核引发的缺失替换出共享Cache，导致系统性能下降。

为了减小这种相互污染对系统性能的影响，可以对共享Cache进行动态的划分。动态划分通过控制每个核在共享Cache中占有资源的数量，抑制各个核之间的相互影响，提高系统性能。但是现有的划分技术往往因为过于强调提高系统某一方面的性能，所以导致在很多情况下反而会使系统整体性能降低。本发明针对这一问题，提出的新型共享Cache动态划分方法，通过引入自由路，可以在兼顾恰当划分给系统性能带来提升的同时，有效减小不当划分给系统带来的性能下降，使系统的平均性能得到提升，具有更广泛的适用性。

发明内容

本发明的目的在于提出一种能够提升系统整体性能的共享Cache动态划分方法与电路。

本发明提出的共享Cache动态划分方法，为共享Cache设置监控电路和划分电路。因此，共享Cache动态划分电路包含监控电路、划分电路和共享Cache三大部分，可应用于各种多核系统。

本发明在共享Cache动态划分中，为每个核提供一个监控电路，即每个核对应一个监控电路，用来跟踪共享Cache，当共享Cache为一个核所独占时，在共享Cache空间中为这个核分配不同路数的情况下，该核可获得的命中数。为实现这一功能，从共享Cache标签目录每32组中选取一组作为采样组进入监控电路，在监控电路中建立和采样组相同的标签目录，并为每一路提供一个计数器，以统计该路的命中次数。在监控电路中所有组的同一路共用一个计数器，即任意组某一路命中后，该路计数器值均加1。这样，将监控电路的相应计数器值相加，便获得在共享Cache中为拥有该监控电路的核分配不同路数时，该核的具体命中数。每个核的监控电路只能被该核访问，因此不会受其他核线程的影响。

监控电路将监控信息传递给划分电路，根据这些信息，划分电路按照划分算法计算出在共享Cache中分配给各个核的最优私有路路数。

本发明提出的划分算法，是将共享Cache空间每组中的各路划分为私有路和自由路两大部分。其中私有路被划分算法显性地分配给某一个核，而自由路则在系统运行过程中按照LRU的方法被隐性地分配给某一个核，不再由划分算法显性地分配。以双核共享二级Cache结构为例，本发明提出的新型划分算法将共享Cache空间每组中的各路分配为三个部分：一部分分配给核1，一部分分配给核2，另外将最后一部分作为自由路。自由路部分不由划分算法显性地分配给核1或者核2，而由两个核共享，在系统运行过程中，按照LRU的方法，动态地隐性分配给其中之一。划分算法每隔固定周期执行一次。每次划分算法执行后，将监控电路中的计数器值减半。这样在突出当前执行信息的同时，也保留了以前的信息。

因为自由路的路数是固定的，不受划分电路的控制。因此，划分算法只对私有路进行分配。即新型划分算法只需将非自由路纳入遍历的范围。以双核共享16路组相连Cache，其中有1路自由路为例，新型划分算法只遍历为两个核一共分配15路的所有情况，即遍历在共享Cache中为核1分配i路，为核2分配15-i路的所有情况，其中1≤i≤14，找出使两个核各路的命中总数最高的划分方法。剩下的1路自由路则由两个核共享，在运行过程中按照最近最少使用（LRU）的方式动态地分配给某一个核。