[发明专利]一种基于Cache空间预约算法的计算方法

说明书

本发明提供的基于Cache空间预约算法的计算方法包括：当有Load指令访问Cache发生缺失时，设置Cache中的预约空间计数器POC，将POC计数值加1；所述Cache空间预约控制单元接收Cache替换算法单元的输出，并根据所述POC的值产生相应的Cache空间预约控制信息；根据所述Cache空间预约控制信息选择Cache中最近最少使用的Cache行，并对其POT标志进行设置，表示该Cache行已被预约，并将该Cache行对应的地址写入CPAR中保存；根据对应CPAR中保存的Cache行预约地址，从主存返回的数据直接写入对应的目标Cache数据块中；根据Cache的流水深度和非阻塞缓冲深度设置至少一个CPAR保存至少一个被预约Cache行的地址；若Cache空间预约控制单元选择预约的Cache行为脏，则启动该脏Cache行的写回操作，启动数据写回操作后再设置POT标志为1。

技术领域

本发明涉及计算机硬件技术领域，尤其涉及基于一种Cache空间预约算法的计算方法。

背景技术

层次化片上存储系统是现阶段高性能处理器缓解“存储墙”问题的有效手段，而Cache是决定片上存储系统整体性能的核心部件，高数据吞吐、低访问延迟的高性能Cache一直是研究的重要内容。通常，处理器上电开始运行后，一旦Cache第一次被填满，除非由于Cache一致性导致的Cache行作废，几乎没有空行等待主存数据的写入，如图1所示。而处理器内核要等到数据写入Cache后才能取入寄存器中使用。由于一次片外主存访问通常要耗费100－200个时钟周期，考虑到非阻塞Cache已经成为优化Cache性能的通用技术，因此在这期间可能产生多次存储器访问，提前作废Cache可能会破坏数据的局部性，并导致Cache抖动。

Cache命中率不仅取决于Cache容量和结构，也受Cache替换机制的影响。作为内存的部分映像，Cache只能暂存部分主存的数据。在读缺失时，需要在K路相联的Cache行中选择替换对象。替换策略有轮循，随机替换，先进先出，最近最少使用LRU，PLRU，最大重用距离法(MIN)、最近最低使用频率LFU、动态插入策略(DIP)等。大多数对Cache替换算法的研究都集中在如何通过优化Cache替换算法提升Cache命令率和Cache空间利用率上，而对如何降低Cache替换算法的延迟研究的较少。我们注意到，现有的Cache在发生读缺失时通常需要等待数据返回到内核后才判断有没有空闲的Cache行等待写入，如果没有空行可用，才开始根据Cache替换算法选择目标行，并进行替换，而执行替换算法将会产生延迟。很显然，Cache替换操作延迟将延长处理器内核最终得到数据的时间。

尤其是低延迟Cache替换算法，影响到Cache平均访存延迟关键性能指标，最终影响Cache的整体工作效率。

发明内容

本发明公开Cache空间预约算法，为片上Cache增加预约空间计数器POC，以及Cache行预约标志POT，使Cache替换目标选择与片外存储器访问并行执行，同时具备将POT标识为1的脏Cache数据行尽快提前写回的能力，从而在片外数据返回前提前完成Cache替换目标行选择和脏数据写回，并将替换目标Cache行地址存入专用寄存器中，数据返回后直接写入替换目标Cache行，从而有效隐藏Cache替换操作延迟、提升IPC。

本发明的技术解决方案是：

一种Cache空间预约算法，其特征在于：在标准Cache结构的基础上增加一个Cache空间预约控制单元，其中包括预约空间计数器POC(Pre－Ordering Counter)，多个Cache空间预约地址寄存器CPAR(Cache Pre－Ordering Address Register，CPAR)以及相关的控制逻辑。同时，在Cache的Tag阵列中为每个Cache行增加一个预约标志POT(Pre－OrderingTag)。上述部件协同工作完成Cache空间预约算法的功能。

所述Cache空间预约算法的流程是：