[发明专利]缓存数据块的处理方法

说明书

技术领域

本发明属于存储技术领域，涉及大容量缓存及多核架构下缓存的缓存数据块的处理方法。

背景技术

目前大多数计算机系统的性能在很大程度上是受内存平均访问延迟来决定的，提高缓存的命中率就能减少内存的访问次数，也就能提高系统性能。当前的处理器都使用缓存机制，缓存的作用主要是缓解调整处理器与低速主存之间速度及性能上的不匹配。缓存实行分级机制，目前的处理器大多采用三级缓存(L1，L2，L3)，其最后一级缓存(L3)靠近主存。随着最后一级缓存的容量不断增加，相应的管理策略也要不断改进，以提高缓存的利用率，减少主存的访问次数。

缓存的管理策略包括插入算法和替换算法。插入算法是从主存中读入到缓存的一个缓存数据块应该放置到缓存的什么位置上。而替换算法是由于缓存空间容量有限，当有新的缓存块要进来时，需要将缓存中的一个缓存数据块从缓存移到主存中，以便腾出空间给新的缓存数据块。目前大多数处理器使用的缓存管理策略是最近最少使用算法(LRU)。LRU是将一组缓存看成是一个链表，当有新的缓存数据块要插入的缓存中时，将表尾的缓存数据块移到主存中，表中其他缓存数据块相应地往后移一个位置，将新的缓存数据块放在表头。在缓存访问过程中，如果一个缓存数据块被命中了，那么LRU算法就会将这个缓存数据块移到表头位置。LRU算法对于管理小容量的缓存是很有效的，但是对于管理容量较大的缓存，却显得有些低效，目前的最后一级缓存容量比较大，如何管理这个大容量缓存，是很多科研工作者都在思考的一个问题。故，实有必要进行研究，提供一种方法以解决目前存在的问题。

发明内容

本发明实施例的目的在于提供一种缓存数据块的处理方法，以提高缓存访问命中率，提高系统性能。

本发明实施例是这样实现的，一种缓存数据块的处理方法，包括如下步骤：

新增缓存数据块信息位，增加记录缓存数据块连续两次被访问的间隔的缓存数据块信息位，用2个比特位来表示连续两次被访问的间隔；

新增一个历史访问间隔记录表，存储缓存数据块连续两次被访问的间隔，每条记录用5个比特位来存储数据块的连续两次被访问间隔；

查找历史访问间隔记录表，根据缓存数据块连续两次被访问的间隔，过滤掉那些连续访问间隔较大的的缓存数据块。

进一步地，缓存数据块信息位中不需要LRU位，其用2个比特位来表示缓存数据块连续两次被访问的间隔，记为RRI。

进一步地，当把一个缓存数据块从主存读入到缓存中时，需要对缓存数据块的RRI值初始化。

进一步地，根据缓存数据块的地址查找间隔表，读取表中记录的数值，并返回该数的以2为基数的对数值，记为PRRI；如果PRRI值小于3，则就用PRRI值来初始化这个缓存数据块的RRI值。

进一步地，间隔记录表是通过缓存数据块的RRI信息位来表示，地址空间上连续的缓存数据块，这个记录表只需要记录一部分缓存数据块的连续两次访问间隔，从而减少额外的空间需求。

进一步地，间隔记录表的大小跟缓存的配置有关。

进一步地，对记录表的索引查找是通过缓存数据块的地址来完成的，每一个缓存数据块地址都对应到一个记录项

本发明提出一种缓存数据块过滤方法来提高最后一级缓存的使用效率和系统性能。其主要是针对大容量最后一级缓存，通过改进缓存的管理策略，将访问较频繁的缓存数据块保存在缓存中，而将访问频率较低的缓存数据块移到主存，过滤掉那些连续访问间隔较大的的缓存数据块，可以减少缓存的替换和读写操，从而提高缓存访问命中率，提高系统性能。

附图说明

图1是本发明的流程图示。

具体实施方式

为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细说明。应当理解，此处所描述的具体实施例仅仅用以解释本发明，并不用于限定本发明。

目前缓存容量都比较大，而大部分程序的访问缓存规律则是有许多缓存数据块的访问次数很少，一般都少于3次，它们的访问频率很低。将这些访问频率较低的缓存数据块从缓存中过滤出去，以腾出更多的缓存空间给访问较频繁的缓存数据块，从而提高缓存利用率。这是目前大多数缓存管理策略的目标。

请参照图1所示，本发明缓存数据块的处理方法根据缓存数据块连续被访问两次的间隔，过滤掉那些访问频率较低的缓存数据块，包括如下步骤：

新增缓存数据块信息位，增加记录缓存数据块连续两次被访问的间隔的缓存数据块信息位，用2个比特位来表示连续两次被访问的间隔；