[发明专利]一种多核处理器目录缓存替换方法

说明书

技术领域

本发明公开一种目录缓存替换方法，属于计算机存储技术领域，具体涉及多核处理器目录缓存替换方法及目录缓存替换系统。

背景技术

多核处理器结构已经成为了处理器设计的主流，从桌面处理器到服务器处理器，甚至手机处理器都广泛采用的多核结构，并且核数的增长趋势明显。随着核数的增加，多核处理器系统具备可扩展性，随之而来就需要维护多个处理器核的缓存数据一致性，而目录一致性可以有效地维护缓存数据一致性。但是商业处理器中采用的缓存一致性协议导致目录缓存空间浪费，为了降低L1Cache的响应时间（Load-To-Use Time），对干净的数据执行降级操作时往往不会通知目录缓存（Directory Cache）。通常就是如果L1Cache发生了替换，被替换的缓存块是S状态，当S状态的数据降级到I状态，L1Cache不需要与Directory Cache通信，这样虽然减小替换操作的时间延迟，但是这种降级操作没有通知Directory Cache，Directory Cache依旧为I状态的数据维护数据一致性。这导致了由于无消息替换操作引起的无效项浪费了Directory Cache的容量，造成Directory Cache更为严重的容量冲突，损害了多核处理器的整体性能。

本发明提供一种多核处理器目录缓存替换方法，重点设计目录一致性协议中的关键部件目录缓存，提出了新的目录缓存替换算法以提高目录缓存的容量利用率。可以有效识别目录缓存中的无效项并进行有限替换，提高目录缓存的有效容量，提升多核处理器的整体性能。

发明内容

在多核处理器系统中，目录缓存的容量有限，有效利用目录的容量成为多核处理器设计的关键性问题。而商业处理器广泛采用的无消息替换（Silent Replacement）浪费了目录缓存的容量，损害了多核处理器的整体性能针对上述问题，本发明提供一种多核处理器目录缓存替换方法，实现了有效识别目录缓存中的无效项并进行有限替换，提高目录缓存的有效容量，提升多核处理器的整体性能。

本发明提出的具体方案是：

一种多核处理器目录缓存替换方法，具体如下：

多核处理器采用两级缓存结构，每个处理器核组合一个L1Cache，所有的处理器核共享L2Cache；

L1Cache之间通过目录缓存维护数据一致性，根据目录缓存与L1Cache的交互消息，确定每个处理器核对应的L1Cache的某个缓存组发生的无消息替换次数；

为目录缓存增设每个L1Cache缓存组的无消息替换计数向量组，保存每个L1Cache在该缓存组发生的无消息替换次数；

当目录缓存发生替换时，根据当前的替换策略、目录缓存块的共享状态向量以及无消息替换计数向量的状态，来共同决定被替换的缓存块，以便节省目录缓存空间。

当处理器核发出请求访问给L1Cache，如果L1Cache命中则返回数据或者确认消息；

如果L1Cache缺失，则在L1Cache当中选择一个空闲项保存从L2Cache或者内存当中返回的数据，如果L1Cache当中没有空闲项，则选择一项发生替换；以上述条件确定每个处理器核对应的L1Cache的某个缓存组发生的无消息替换次数。

确定无消息替换次数具体过程为：

利用GETX(S)+GETS(S)=Rep(S)+INV-ALL(S)+ASSOC式1

Rep(S)=SRep(S)+ERep(S)式2

PUTX(S)=ERep(S)+INV-L1M(S)式3

SRep(S) = GETX(S)+GETS(S)-INV-ALL(S)-ASSOC-(PUTX(S)-INV-L1M(S))式4

针对每个处理器核对应的L1Cache的某一缓存组，称缓存组S，Directory Cache收到的来自该处理器的数据请求总数与该处理器L1Cache发生的缓存块替换次数、目录缓存向该处理器核发出的INV总数以及其L1Cache的组相联度的总和相同，用式1表示，其中GETX(S)表示L1Cache针对缓存组S发出独占请求的数量，GETS(S)表示L1Cache针对缓存组S发出共享读请求的次数，Rep（S）是L1Cache中针对缓存组S发生的替换总数，INV-ALL(S)是Directory Cache针对缓存组S发出的INV消息总数，ASSOC是L1Cache的组相联度；