[发明专利]快取存储器的替换装置及方法

说明书

技术领域

本发明是有关于一种快取存储器的替换架构，且特别是有关于一种结合最近最少使用演算法与虚拟最近最少使用演算法的快取存储器的替换装置及方法。

背景技术

快取存储器是一种使用于储存介质，以增进其存取速率的小型快速存储器。由于其存取速率较储存介质所使用的主存储器为快，因此当处理器欲由储存介质中存取如地址、指令及数据等时，如可由快取存储器中存取，其速率将较由主存储器中直接存取为快而有效率，故快取存储器通常可视为主存储器的缓冲存储器。

传统上，有三种类型的被使用的快取组织：完全关联式(fully associative)、直接映射式(direct mapped)以及集合关联式(set associative)快取组织。在完全关联式快取中，将主存储器的任何快取线储存在任何快取条目(entry)，因而使快取的比较变得复杂，此种方式的命中率最高。直接映射式快取实际上是一个集合关联式快取，其具有可能储存了具有共同定址属性的多个存储位置的内容的一位置，此种方式的硬件复杂度最低、替换方式最简单，但命中率最低。在集合关联式快取中，通常将快取在逻辑上分成一些集合，其中来自主存储器的位置被储存在每一集合内的特定的位置，因而简化了快取查询程序，此种方式的硬件复杂度与命中率介于完全关联式与直接映射式之间。

然而，由于成本考量，快取存储器的容量并不可能无限量扩充，其可储存的数据，相较于主存储器而言极为有限，因此当处理器欲存取数据时，便可能会有快取线符合(cache hit)或快取线不符合(cache miss)的情形发生。所谓快取线符合，意即处理器欲存取的数据储存于快取存储器中，故可直接由快取存储器中存取数据。反之，则为快取线不符合，必须依据快取存储器的替换演算法，将储存于主存储器中的数据移入快取存储器中，以供处理器存取。因此，其替换演算法的良宥，便成为影响储存介质存取效能的重要因素。

现有快取存储器替换演算法通常有最近最少使用(Least Recently Used，LRU)演算法以及虚拟最近最少使用(Pseudo Least Recently Used，PLRU)演算法。

图1绘示为现有的最近最少使用演算法的示意图，请参照图1。最近最少使用演算法为考虑最近长时间未存取的快取线，也是最不可能再一次存取的快取线予以替换。图1以4个快取线为例，其中，横坐标和纵坐标均表示快取线的编号，6个正方形代表6个存储单元，每个存储单元用0表示左边的快取线比下边的快取线更新(不应被替换)，同时也表示下边的快取线比左边的快取线更旧(应被替换)。通过这样一张表格，每一个快取线均可以与组内的其他快取线进行一次比较。例如，对于快取线0来说，它在垂直方向上将分别与快取线1，快取线2和快取线3进行比较，而对于快取线1来说，在水平方向上，它将与快取线0进行比较，而在垂直方向上，它将与快取线2和快取线3进行比较。当一个快取线的水平方向全为“1”，而垂直方向全为“0”时，此快取线就应被替换。其中，当替换发生或者命中(hit)发生的时候，需要更新存储单元。

图2绘示为现有的虚拟最近最少使用演算法的示意图，请参照图2。虚拟最近最少使用演算法为将快取线按照二进位树(binary tree)的形式组织起来，二进位树的每个节点表示子树上的快取线的历史信息。从二进位树的顶部搜寻到二进位树的底部就可以找出应该替换的快取线。在每一个二进位树的节点，把二进位树的子树作为一个整体进行考量它们的历史信息。

以4个快取线为例，图2为3个储存单元202，以二进位树的形式组织，每个节点用于存储左右子树的相对优先顺序。当虚拟最近最少使用二进位树的节点为0时，则沿着左子树进行查找，否则沿着右子树进行查找，直到找到最后应该被替换的快取线为止。其中，当替换发生或者命中发生的时候，需要更新储存单元202所储存的相对优先顺序。

在现有的快取存储器替换演算法中，通常对一个快取存储器只会使用一种替换算法。最近最少使用演算法充分考虑快取存储器的使用历史，具有最佳的效能但复杂度最高，对面积和时序的要求高，尤其当快取线的数量达到8条以上时，所需的电路面积已过大而不符合实际应用。另外，相对于最近最少使用演算法，利用虚拟最近最少使用演算法虽可改善电路面积，但却有损效能，而且当快取线较多时，仍无法有效解决电路面积过大和时序紧张的问题。

发明内容

本发明提供一种快取存储器的替换装置与方法，可有效减少电路面积并改善时序。