[发明专利]一种面向高性能的异构多核共享cache缓冲管理方法

权利要求书

1.一种面向高性能的异构多核LLC缓冲管理方法，其特征在于，包括以下步骤：

步骤1，实现CPU请求与GPU请求区分，跟踪访存请求，使用标志位CPUorGPU来区分不同核心的访存请求；

步骤2，在共享末级缓存L2级Cache的GPU侧建立一个与其结构相同的缓冲buffer；

步骤3，根据不同核心访存请求的标志位CPUorGPU决定访存请求映射到L2 Cache地址还是buffer地址；

步骤4，实现GPU请求的过滤，包括以下步骤：

步骤4.1，缓冲过滤

在L2 Cache的请求缓冲队列L1RequestToL2Cache中，判断CPUorGPU消息标志位，如果该请求是来自CPU核心的L1级Cache，将该访存请求映射到LLC，如果该请求是来自GPU核心的L1级Cache，将该访存请求先映射到buffer，若未在buffer中命中，再映射到LLC；

步骤4.2，静态调整

改变buffer大小，将其分别改为12％LLC大小、25％LLC大小和50％LLC大小，统计共享缓存CPU和GPU程序各自的单位周期内执行的指令数量(Instructions Per Cycle简称IPC)，找到性能最优的buffer大小；

步骤5，将合理的替换策略应用于buffer中，当请求访问buffer时，使用更适合GPU应用程序的伪LRU替换算法(PseudoLRU)将不常用的块替换掉。

2.如权利要求1所述的面向高性能的异构多核LLC缓冲管理方法，其特征在于，步骤2具体为：在配置文件中定义两个L2 Cache，在每个L2 Cache Controller上新增BufID编号位，并规定BufID为0的L2 Cache为LLC,BufID为1的L2Cache为Buffer，Buffer的大小为LLC大小的6％。

3.如权利要求2所述的面向高性能的异构多核LLC缓冲管理方法，其特征在于，步骤3具体为：步骤1中已经添加了标志位来区分不同核心的L1 Cache消息，当L1 CacheController中的访问请求消息到达L2 Cache Controller时，在端口L1RequestL2Network_in中进行消息类型的判断，对来自CPU核心还是GPU核心的L1 Cache请求消息进行不同的地址空间映射。

4.如权利要求3所述的面向高性能的异构多核LLC缓冲管理方法，其特征在于，步骤4.1具体为：L1RequestL2Network_in消息队列中存储来自CPU或者GPU L1 Cache Controller消息，获得标志位CPUorGPU的值，通过getCacheEntry(in_msg.addr)函数根据in_msg.addr的地址将消息映射L2级Cache的相应cache_entry中；新增辨识L2 Cache编号标志位L2_version，如果CPUorGPU值为0，则该消息来自CPU L1 Cache，另L2_version设为0；如果CPUorGPU值大于0，则该消息来自GPU L1 Cache，另L2_version设为1；将标志位L2_version传递给RubySlicc的组件映射函数中，在L2 Cache接收来自L1Cache的消息时，先执行映射函数，将L2_version与BufID的值作对比，对于来自CPU L1 Cache的消息，L2_version等于0，则将消息直接映射到BufID为0的L2 Cache中，即LLC中；对于来自GPU L1 Cache的消息，L2_version等于1，则将消息按照掩码计算优先命中的方法，将消息映射到BufID为0或1的L2Cache中，即LLC或Buffer中。