[发明专利]螺旋高速缓存电源管理、自适应大小调整和接口操作

说明书

一种螺旋高速缓冲存储器，通过自组织以始终将请求值移至螺旋高速缓冲存储器的最前端存储块而为频繁存取的值提供低存取延迟。如果所述螺旋高速缓存需要逐出值以便为移至所述最前端块的值腾出空间，则通过将值从所述高速缓存逐出到后备存储器来腾出空间。使用缓冲器连同流控制逻辑来防止逐出值的写入溢出到总体较慢的后备存储器。所述螺旋高速缓存中的块可以是单个存储位置，也可以组织为某种形式的高速缓冲存储器，例如直接映射高速缓存或组关联高速缓存。通过将所述螺旋高速缓存划分成可按块调整的活动和不活动分区，可以降低所述高速缓存的功耗。块产生的或全局的断电决策可以设置所述分区的大小。

技术领域

本发明涉及高速缓冲存储器，更具体地说，涉及螺旋高速缓冲存储器中的电源管理、自适应大小调整和接口操作。

背景技术

在现今的高速缓冲存储器系统中，在存取最频繁存取的值所需的时间与最短存取时间内可提供的此类值的数目之间存在权衡。例如，在传统多级高速缓存层级中，一级(L1)高速缓存针对特定数目的值提供一致存取时间，并且某些系统中的控制电路和其他算法特性用于维护L1高速缓存内的最频繁存取的值。但是，由于物理布线约束以及电子系统受电子信号传播速度的限制，因此L1高速缓存越大，典型L1高速缓存的(固定)存取时间越长。类似地，当为了缩短存取时间而减小L1高速缓存的大小时，未存储在L1高速缓存内的频繁存取的值的数目将增加。未存储在L1高速缓存内的值因此被存储在存储器层级的更高阶级别(例如，L2高速缓存)中，L2高速缓存的存取时间损失远大于L1高速缓存的存取时间损失，这是因为典型高速缓冲存储器系统是包含性的，也就是说，存储器层级的较高级别包含下一较低级别高速缓存中存储的所有值。在实际应用中，给定的较高级别高速缓冲存储器一般远大于下一较低级的高速缓冲存储器，并且给定诸如RC线延迟之类的上述传播速度约束以及裸片互连中电场传播固有速度的最终限制，较高级别的高速缓存将慢得多，通常在比下一较低级别的高速缓冲存储器慢10到100倍的量级。此外，存储器层级中较大的高级别高速缓存将增加功耗，虽然可以将高速缓冲存储器分成可单独进行电源管理的分区，但是这种电源管理需要在分区之间重新组织和移动数据以便减小高速缓存的大小不会损害正确性或导致性能降低。进而，由于需要在高速缓存中重新组织数据，因此相对于数据流的速率，执行电源管理操作的速度必然较低。

此外，此类高速缓冲存储器系统中采用的典型高速缓存控制算法通常一次处理一个对高速缓存级别的未完成请求。如果存取请求“未命中”高速缓存，则此存取将停止或失败，因此请求源(例如，下一较低编号的高速缓存级别或L1高速缓存未命中情况下的处理器存储器存取逻辑)必须重试存取。所述请求从处理器向高速缓冲存储器的更高阶级别传播，但是稍后在L1级别处重试请求确保了当依赖于请求值的硬件线程等待所述请求成功时，仍为其他可执行的指令提供对所述高速缓存的存取。可提供停止整个处理器流水线的备选方法，但是性能损失将更为严重。

最后，一般由高速缓冲存储器层级中的控制结构(例如，高速缓存控制器)实施高速缓冲存储器层级中值的组织，所述控制结构根据诸如最近最少使用(LRU)之类的方案衡量存取频率并组织高速缓存级别以使用驱逐(cast-out)逻辑将最频繁存取的值保持在低阶高速缓存中。

提出了除上述传统高速缓冲存储器和层级以外的解决方案，其允许将多个请求流水线化，但是需要强制使用固定的最差存取延迟和缓冲来控制流水线信息流。

进而，提出了非传统高速缓冲存储器，其具有非一致存取延迟并且在不使用其他存取度量和驱逐逻辑的情况下进行组织，但是相对于目前高速缓冲存储器的操作而言，它总体上仅提供了很小的潜在改进，其方式是：交换高速缓存表项以便缓慢地将频繁存取的值迁移到“较近的”位置，同时将不常使用的值迁移到“较远的”位置。此类非一致高速缓冲存储器还需要额外的通路来执行交换，并且通常是路由系统，其中使用开关电路执行特定高速缓存组(cache bank)的选择。