[发明专利]基于划分感知和线程感知的末级高速缓存的性能优化方法

说明书

技术领域

本发明属于信息处理系统的多核处理器末级高级缓存性能提升技术领域，具体涉及一种末级高速缓存的划分感知淘汰线程感知插入提升高速缓存性能的方法。

背景技术

随着微处理器技术的发展，多核处理器，特别是片上多处理器(ChipMultiprocessor，CMP)已经成为构建当代高性能微处理器的唯一技术途径。基于最近最久未使用方法(Least Recently Used，LRU)方法共享末级高速缓存(Last Level Cache，LLC)已经被当代片上多核处理器CMP所广泛采用。然而，过去的一些研究成果表明当并发执行的线程间存在干扰或者负载的工作集超过高速缓存容量时，末级高速缓存的性能以及由此关联到的多核处理器的性能都会受到最近最久未使用(Least Recently Used，LRU)方法的影响而严重下降。

针对上述问题已经提出了大量的解决方案。然而，大多数方案仅仅集中在某一单一的特定访存行为之上(如Cache划分，或者Cache插入优化)，并没有对所有类型的访存行为做出全面的考虑。因此，全局Cache性能的提升是相当有限的。

发明内容

本发明目的在于提供一种基于划分感知和线程感知的末级高速缓存的性能优化方法，解决了现有技术中多线程并发时片上多处理器全局Cache性能难以提升等问题。

为了解决现有技术中的这些问题，本发明提供的技术方案是：

一种基于划分感知和线程感知的末级高速缓存的性能优化方法，用于多核处理器与共享末级高级缓存间的数据和指令的通信，其特征在于所述方法包括在多核处理器并行执行应用时，共享末级高级缓存通过划分感知淘汰方法来选择末级高速缓存的候选替换块；并使用线程感知动态插入方法TADIP在基本LRU方法和双向插入方法中优选方法进行高速缓存中新数据块插入以及使用线程感知动态提升方法TADPP-F在最近最常使用方法和单步提升方法之间进行选择提升末级高速缓存中的命中块。

优选的，所述方法中划分感知淘汰方法采用基于效用的高速缓存划分方法所提供的目标划分方案来选择末级高速缓存中候选淘汰块。

优选的，所述方法中线程感知动态提升方法包括以所有剩余应用程序当前各自表现最好的提升方法为基础，来选择每个应用程序的最优提升方法。

优选的，所述方法中通过锦标赛监控器将TADIP-F方法和TADPP-F方法集成到一起。

优选的，所述方法中标识每个应用程序所对应的SDMs采用内容可寻址存储器或哈希函数来标识。

优选的，所述方法中标识每个应用程序所对应的SDMs采用哈希函数来标识时，在多核处理器内设置加法器和比较器来实现。

本发明技术方案中提供了一种末级高速缓存的性能优化方法，该方法关键在于采用划分感知和淘汰线程感知技术来有效性能提升末级高速缓存资源，使其达到较高的性能。具体的实现末级高速缓存的划分感知和淘汰线程感知方法，可以包括以下技术方案：

(1)线程感知提升方法；

(2)划分感知淘汰；

(3)PAE-TIP。

其中，线程感知提升方法以所有剩余应用程序当前各自表现最好的提升方法为基础，来选择每个应用程序的最优提升方法；划分感知淘汰方法采用基于效用的高速缓存划分(Utility-based Cache Partitioning，UCP)方法所提供的目标划分方案来选择末级高速缓存中候选淘汰块；用PAE-TIP方法同时兼顾淘汰块的选择、新块的插入和命中块的提升三个方面，以使得整个性能提升方法达到最优性能。

本发明所提出的PAE-TIP方法包括如下三个核心部分：

1、具有反馈的线程感知动态提升方法(Thread-Aware DynamicPromotion Policy with Feedback，TADPP-F)。TADPP-F会针对每个应用做出一个二元决策，如当有N个并发调度的应用共享LLC时，TADPP-F等价于在2N个可能的N比特二元串中找到一个最优的二元串。

2、基于UCP所提供的目标划分方案的划分感知淘汰方法。划分感知淘汰方法以组为粒度隐式地划分LLC，并且将每个应用限制在某些Cache块的特定子集中，从而可以避免以较快速度访问Cache的应用将属于其它核的Cache块替换出去。