[发明专利]基于退出退让机制的共享高速缓存硬件资源访问方法

说明书

本发明涉及计算机领域中共享高速缓存的硬件资源访问方法。当私有高速缓存中存在某个重要的访存请求时，该重要的访存请求将按照退出机制替换其他晚进入的访存请求，再通过退让机制将访存请求迁移至最先访问共享高速缓存的位置以达到优先访问共享高速缓存硬件资源的目的。本发明通过退出机制和退让机制的结合实现在某个私有高速缓存中重要访存请求优先访问共享高速缓存的硬件资源，解决访存请求访问共享高速缓存硬件资源的竞争以及由竞争引起的问题。

技术领域

本发明涉及计算机技术领域，具体涉及一种中央处理器单元中共享高速缓存中硬件资源分配访问的方法。

背景技术

高速缓冲存储器（Cache）是存储器系统中最重要的部分之一。其是在计算机存储系统的层次结构中，介于中央处理器（CPU）和主存储器（Main memory）之间用于弥补处理器与存储器之间的速度差异。其特点是容量比较小但速度比主存高得多，接近于CPU的速度。

目前所有现代计算机都使用cache。而且大多数处理器都会额外增加一级cache，服务器级别的处理器中会采用三级cache结构，采用了L1 cache、L2 cache和L3 cache三个层次的cache结构，其访问速度依次递减，容量依次递增，我们称L3 cache为LLC（LastLevel Cache）即最后一级的高速缓存。在多核处理器（CMP，Chip mulitiprocessors）中，不同处理器都有自己的私有的上一级高速缓存（二级缓存时为L1cache，三级缓存时为L1cache和/或L2cache）但是多个处理器通过共有的最后一级高速缓存LLC来实现数据共享。由于最后一级高速缓存LLC被各核共享（Share），LLC中的数据和硬件资源都是所有访存指令竞争的对象，所以一个核的活跃数据很有可能被其他核引发的缺失替换出共享Cache，导致系统性能下降。

现有技术中数据共享竞争控制可以通过指令或者软件来实现，如申请号为201410537569.1的中国发明专利中就公开了多核处理器共享缓存任务调度方法，提出了一种共享Cache驱动的任务调度方法，以提供合理的空间以提高多核处理器并发执行任务能力，提升处理器性能。通过将共享高速缓存划分为若干个共享高速缓存块，并将划分后共享高速缓存块划分给各个私有高速缓存。当私有缓存中的访存请求访问资源时，首先对比共享高速缓存和私有高速缓存中各自拥有的共享高速缓存块之和。如果共享高速缓存块之和满足该访存请求对共享高速缓存的资源要求则该访存请求可以访问否则等待。上述技术方案的问题在于只是划分了共享高速缓存提供给各个私有高速缓存实现一种硬件资源的分配调度，而没有解决硬件资源的竞争以及由竞争引起的问题，特别是当某个私有高速缓存中存在一个重要访存请求，如何能够相较于其他不重要的访存请求优先进入共享高速缓存中，优先访问共享高速缓存硬件资源的问题。

发明内容

为解决上述技术问题，本发明提供了一种多核处理器共享高速缓存硬件资源访问方法，其目的是，解决访存请求访问共享高速缓存硬件资源的竞争以及由竞争导致引起的问题，特别是当某个私有高速缓存中存在一个重要访存请求，如何能够相较于其他不重要的访存请求优先进入共享高速缓存中，以及优先访问共享高速缓存硬件资源的问题。

为达到上述目的，本发明的技术方案如下：

基于退出机制的共享高速缓存硬件资源访问方法，将多核处理器的高速缓存分为多个独立运行的私有高速缓存和多个私有高速缓存共享的共享高速缓存，私有高速缓存向共享高速缓存中发送访存请求，所述的访存请求根据访问共享高速缓存的优先级进行排序，通过以下步骤实现某个访存请求优先进入共享高速缓存中：

步骤1、访存请求进入，各个私有高速缓存中的各个访存请求按照时间顺序并行进入共享高速缓存中；

步骤2、访存请求退出，当某个访存请求优先级较高的队列未进入共享高速缓存中时，共享高速缓存将已进入共享高速缓存中但优先级较低的访存请求按照晚进入先退出的原则删除；