[发明专利]一种基于负载平衡的CPU和GPU两级动态任务划分方法

摘要

本发明公开了一种基于负载平衡的CPU和GPU两级动态任务划分方法，要解决的技术问题在于：实现CPU和GPU之间、CPU多核之间的任务负载平衡。技术方案是为CPU和GPU之间以及CPU多核之间的任务划分建立两个数据库，记录任务的划分比例，其中CPU与GPU之间的任务划分比例根据问题规模确定，且在整个应用程序执行过程中根据CPU和GPU的实测性能自动调整任务划分的比例，实现任务划分的负载平衡。采用本发明既能保证CPU和GPU的任务负载平衡，提高科学计算程序利用GPU加速的性能，又能平衡CPU每个核之间的任务负载，提高多核CPU的性能。

主权项

1.一种基于负载平衡的CPU和GPU两级动态任务划分方法，所述GPU是指图形处理单元，其特征在于包括以下步骤：第一步、构建并初始化CPU-GPU间任务划分比例数据库DB1，DB1记录M组不同问题规模下的Gsplit_i，i∈[0，M-1]，M为正整数；构建DB1的具体步骤是：1.1DB1的形式为{(Fx，Gsplit₀)，(F₁，Gsplit₁)，...，(F_M-1，Gsplit_M-1)}，其中F_i＝g(i)，Gsplit_i∈[0，1]，F_i为记录的问题规模，g(i)为记录的问题规模的分布函数，是一个单调递增函数，DB1第i项记录的问题规模为g(i)，Gsplit_i表示问题规模F落在[F_i，F_i+1)范围内的并行任务块应采取的任务划分比例因子，即比例为Gsplit_i的任务划分在GPU上执行，比例为1-Gsplit_i的任务划分在CPU上执行；1.2初始化Gsplit_i值，P_cpu为参与运算的CPU核的理论峰值性能，P_gpu为GPU的理论峰值性能；第二步、构建并初始化CPU核间的任务划分比例数据库DB2，记录参与执行任务的各CPU核所占CPU总任务的比例，DB2为向量形式{Csplit₀，Csplit₁，…，Csplit_N-1}，其中N为参与执行任务的CPU核数，Csplit_i的初值为1/N，j∈[0，(N-1)]；第三步、启动应用程序；第四步、执行应用程序CPU执行区代码；第五步、进入GPU加速区入口，计算此次并行任务的问题规模F和总的计算量S，计算量S为并行任务中的所有定点、浮点运算数目之和，通过分析任务算法计算获得或使用工具模拟任务的整个执行过程并进行统计获得；第六步、根据数据库DB1的值进行CPU、GPU的任务划分：搜索DB1，若F满足F∈[F_i，F_i+1)，取得第i项中的Gsplit_i值；将占总任务的比例值为Gsplit_i的任务划分到GPU，GPU上的计算量为S_gpu＝S×Gsplit_i，将占总任务的比例值为1-Gsplit_i的任务划分到CPU上，CPU上的计算量为S_cpu＝S-S×Gsplit_i；第七步、根据数据库DB2的值进行CPU核之间的任务划分：针对CPU上的每个核j，搜索数据库DB2，取得第j项中的Csplit_j值，划分CPU核上的任务，方法是将占总CPU任务的比例值为Csplit_j的任务分给第j个核，第j个核的计算量为S_cpu[j]＝(S-S×Gsplit_i)×Csplit_j；第八步、执行GPU加速区的并行任务，即将划分好的GPU任务和CPU各核上的任务并行执行，同时记录各自任务的执行时间；第九步、同步GPU加速区的并行任务：等待各任务执行完毕，搜集各任务的执行时间(T_gpu，T_c[0]，T_c[1]，…，T_c[N-1])，其中T_gpu表示GPU上任务完成的时间，T_c[j]，j∈[0，N-1]表示第j个CPU核上任务完成的时间，T_cpu＝MAX(T_c[0]，T_c[1]，…，T_c[N-1])为CPU上的并行任务总的完成时间；第十步、更新数据库DB1：GPU的实测性能为CPU的实测性能为调整第六步根据问题规模F得到的Gsplit_i值，方法是计算用Gsplit_i^Δ值覆盖数据库DB1中对应的Gsplit_i值；第十一步、更新数据库DB2：每个CPU核的实测性能为计算每个CPU核负担的任务比例用向量{Csplit₀^Δ，Csplit₁^Δ，…，Csplit_N-1^Δ}覆盖数据库DB2中的向量{Csplit₀，Csplit₁，…，Csplit_N-1}；第十二步、判断应用程序是否结束，若结束，即应用程序中所有的任务执行完毕，则结束应用程序；若未结束，跳转至第四步。