[发明专利]末级高速缓存插入策略软件控制方法

说明书

技术领域

本发明涉及到计算机系统中的末级高速缓存管理，特别是涉及到一种结合虚拟页式存储机制的计算机系统的末级高速缓存插入策略软件控制方法。

背景技术

高速缓存处于处理器访问的关键路径。随着处理器和存储器之间速度差距的不断扩大，高速缓存尤其是末级高速缓存失效产生的系统开销逐渐增大，成为制约计算机整体性能提高的重要瓶颈之一。

程序内部不同数据区域可能存在不同的访问模式和局部性特征。但是，当前处理器高速缓存大多采用LRU替换算法。该算法不能有效识别访问数据的局部性特征并根据数据局部性的变化及时调整管理策略。未来不会被使用到的数据如果不能被有效识别并同局部性良好的数据相区分，就可能会将复用度高的数据替换出高速缓存，从而引发高速缓存污染问题。在采用多级高速缓存的系统中，由于上级高速缓存的过滤作用，使得末级高速缓存污染更加严重。现代计算机普遍采用虚拟存储系统。在支持分页机制的虚拟存储系统中，程序地址空间被划分为若干大小相同的页。在程序运行过程中，不同页之间的局部性特征可能存在较大差异。限制局部性差数据页的末级高速缓存访问空间可以减少其对其对其他数据页高速缓存空间的抢占，在高速缓存中保护局部性良好的数据，从而提高末级高速缓存的性能。

针对末级高速缓存污染问题，当前解决方案通常采用末级高速缓存软件划分的方法。该方法缺少软硬件交互接口，只能将末级高速缓存划分为若干区域，通过将失效率高、局部性差的数据页限制在范围较小的区域内，提高末级高速缓存命中率。此类方法在进行高速缓存划分时需要修改虚拟地址和物理地址的映射关系，从而引入大量的数据拷贝等开销，同时还需要预留一定的物理页框，占用较多的内存资源。

发明内容

本发明要解决的技术问题是：高速缓存替换算法主要包括换出策略和插入策略两部分。当访问失效发生时，换出策略决定高速缓存中哪一部分数据被替换到下一级存储设备中；插入策略决定从下一级存储设备中得到数据存放到高速缓存后，其缓存行在替换链表中的位置。插入策略将会影响不同高速缓存行的替换优先级，进而影响高速缓存中的数据。本发明在现有处理器页表结构的基础上，通过添加控制逻辑，设计页一级末级高速缓存插入策略控制接口。软件可以通过该接口以页为单位控制和指导末级高速缓存插入策略。本方法不增加存储设备，实现代价较低。

本发明所采用的技术方案为：一种末级高速缓存插入策略软件控制方法，包括：

利用现有页表项结构设计页一级末级高速缓存插入策略控制接口，由软件根据单个页的局部性特征利用该接口控制该页数据进入末级高速缓存时采用的插入策略，进而影响其数据在末级高速缓存中的访问空间。通过和DIP策略相结合，设计控制逻辑，将页一级插入策略控制位同策略选择寄存器PSEL最高位进行逻辑判断，达到控制末级高速缓存插入策略的目的。

本发明还可以在页表项中设计页一级末级高速缓存插入策略控制位，提供软件配置接口。

具体的说，首先，本发明在页表项中设计页一级末级高速缓存插入策略控制位。现有处理器如X86系列，无论是32位还是64位平台在其页表项中均存在未被使用到的保留位。本发明提出利用页表项保留位设置页一级末级高速缓存插入策略软件控制位即Insertion位，用于以页为单位控制数据进入末级高速缓存时采用的插入策略。本发明在两种插入策略中选择，因此只需要采用1位保留位就可以实现末级高速缓存插入策略控制接口。

其次，在引入页一级插入策略控制位后设置末级高速缓存插入策略控制逻辑。本发明以DIP策略为基础在LRU和BIP两种插入策略中选择。DIP策略静态划分末级高速缓存，通过策略选择计数器PSEL动态记录采用LRU替换算法测试组和采用双模式插入策略BIP(Bimodal Insertion Policy)策略测试组的末级高速缓存失效次数比较结果。BIP策略在芯片内部维护一个伪随机数生成器用于决定该页中数据的首次插入位置。该策略以较小概率(本文设定为1/32)将新放入末级高速缓存中的数据插入到最近最多使用位置，其他情况下插入到替换链表的最近最少使用位置，从而满足颠簸访问模式的要求。该方法根据PSEL最高位变化动态调整其他末级高速缓存组的插入策略。在引入页一级插入策略控制位后，末级高速缓存新加入数据所在替换链表中的插入位置将由该位同PSEL最高位共同决定。