[发明专利]一种基于片上多核处理器共享cache的动态公平划分方法

权利要求书

1.一种基于片上多核处理器共享cache的动态公平划分方法，其特征在 于，包括以下步骤：初始化、回溯和重划分；将应用程序的运行时间均匀分 块，每一块时间称为一个时间片t；初始化只在应用程序运行前执行一次，回 溯和重划分步骤则在每个时间片t结束后执行；设S²_t为时间片t的公平性指 标，回溯阶段是若公平性指标S²_t大于前一时间片的公平性指标S²_t-1，且S²_t与 S²_t-1的差大于回溯阈值，则撤销前一次重划分；重划分阶段是若未发生回溯且 S²_t大于重划分阈值，则对所有线程重新划分高速缓存Cache；

在该方法中，有四个基本的参数：回溯阈值S_rollback、重划分阈值S_repartition、 划分粒度gran和时间片t；S_rollback取值在1％～50％之间，S_repartition取值在1％～10％ 之间，划分粒度gran即是划分的最小单位取值在64B～64KB之间，t取值在 100000～5000000个时钟周期之间；具体过程如下：

(1)初始化：

1.1)所有线程等分高速缓存Cache，P_i＝Cache总容量/n，P_i表示线 程i所分配的Cache大小，n表示线程总数，P^t_i表示时间片t时线程i所分 配的Cache大小；

1.2)设M₁为每指令的一级Cache缺失次数，E₁为访问一级Cache命 中开销，E₂为一级Cache缺失时访问二级Cache的命中开销，E₃为二级 Cache缺失时访问主存的命中开销，CPI_base为平均每指令执行周期数；M₁、 E₁、E₂、E₃和CPI_base的值由所使用的计算机体系结构决定；

1.3)令α＝CPI_base+E₁+M₁×E₂，β＝E₃，计算出α和β；

(2)回溯阶段：在时间片t结束时，

2.1)计算时间片t时划分方案的公平性指标S²_t：

2.1.1)读指令计数器获得时间片t内各线程执行的指令数I_num，读 独占缺失计数器获得各线程独占cache状态下的缺失数Miss_di；

2.1.2)根据公式(I)计算出T_dedi，T_shri等于时间片t的长度，公 式(I)如下：

T_dedi＝α×I_num+β×Miss_di    (I)

2.1.3)根据公式(II)计算X_i和X_i的均值，公式(II)如下：

Xi=TshriTdedi,X‾=1nΣi=1nXi---(II)]]>

2.1.4)根据公式(III)计算S²_t，公式(III)如下：

S2=1n-1Σi=1n(Xi-X‾)2---(III)]]>

2.2)若S²_t＜S²_t-1，或|S²_t-S²_t-1|/S²_t＜S_rollback则转到步骤(3)；

2.3)若S²_t≥S²_t-1，且|S²_t-S²_t-1|/S²_t≥S_rollback，令P^t+1_i＝P^t-1_i， 转到步骤(4)；

(3)重划分阶段：回溯阶段结束后，

3.1)若S²_t＜S_repartition，则转到步骤(4)；

3.2)若S²_t≥S_repartition，则设Y_i＝X_i-∑X_i/n，划分集PS＝{P^t₁，P^t₂，…， P^t_n}和候选集CS＝{1，2，…，n}；

3.3)如|CS|≥2，选出Y_i中的最大值m axY_k和最小值minY_j，k和j 分别是最大值和最小值的线程号；若maxY_k≤0或minY_j≥0则转到步骤 3.6)；

3.4)如P^t_j＝gran，则CS′＝CS-{j}，转到步骤3.3)；

3.5)P^t+1_k＝P^t_k+gran，P^t+1_j＝P^t_j-gran，CS′＝CS-{k，j}，转到 步骤3.3)；

3.6)若CS′中还有剩余的线程号i，则令P^t+1_i＝P^t_i；

(4)转到步骤(2)，直至n个线程运行结束。