[发明专利]一种基于OpenCL内核任务的调度方法

权利要求书

1.一种基于OpenCL内核任务的调度方法，其特征在于，框架中对于输入的每个OpenCL内核任务，在编译阶段生成其二进制文件，并得到AST抽象语法树，通过LLVM编译器从AST抽象语法树中分析抽取OpenCL内核静态代码特征，再经运行阶段得到动态代码特征，其中为了避免出现过拟合现象，使用Greedy Feature Selection算法对选出来的特征进行排序，选出最重要特征，然后利用机器学习的SVM分类器预测得到任务划分比例，比例值是处于0到10之间的整数，最后将输入的OpenCL内核任务按照预测得到的划分比例值以Baseline调度算法调度到实际可用的设备CPU或GPU上，但对于有明显倾向的任务，得到的划分比例是9，表明该任务倾向于在GPU上执行，就按照添加了阈值机制的BIAS算法调度到具体的设备上；添加了阈值机制的BIAS算法，通过定义阈值使具有明显偏向特征的任务，即偏向在CPU或GPU上执行，避免跨设备共同执行的多余开销，不按照划分比例执行，直接调度到单类设备上执行，根据实验经验设置阈值上界和阈值下界，当系统中两种设备都可用时，先将任务的执行模式设置为CPU和GPU共同执行，之后根据阈值的上下界确定实际使用的调用模式，若其中一个任务的划分比例小于等于阈值下界，将其完全调度到CPU上执行；当其划分比例比例大于等于阈值上界，将其全调度到GPU上执行，当系统中只有一个设备可用时，以Baseline算法执行。

2.根据权利要求1所述的一种基于OpenCL内核任务的调度方法，其特征在于，所述的通过LLVM编译器从AST抽象语法树中分析抽取OpenCL内核静态代码特征，是基于Clang和LLVM完成的，将特征抽取分为编译阶段特征抽取与运行时阶段特征抽取，在编译阶段特征抽取中，OpenCL内核程序通过Clang生成一棵AST抽象语法树，遍历AST，抽取代码静态特征，浮点运算操作、定点运算操作、内存访问操作、OpenCL内建函数；在运行时阶段，抽取运行时特征，问题大小特征，主机与内存之间的数据转换、全局工作项数目。

3.根据权利要求1所述的一种基于OpenCL内核任务的调度方法，其特征在于，所述的为了避免出现过拟合现象，使用Greedy Feature Selection算法对选出来的特征进行排序，选出最重要的几个特征，过程为所有的特征集为S，单个特征s∈S，已选择的特征集F，给F定义一个最小的错误mse，从S中抽取一个s，加入到F中，训练新的F，若mse减小，则确定将该特征加入F，并由mse值对其F中的特征进行排序，其中用SVM(support vector machine)完成这个贪心算法的训练。

4.根据权利要求1所述的一种基于OpenCL内核任务的调度方法，其特征在于，所述的基于机器学习的分类器预测得到任务划分比例，将选出来的几个重要特征作为输入，使用静态分类器，预测得到任务划分比例p值，p代表计算量数据空间的分配，代表任务在CPU/GPU上执行的比例，如，0代表完全在CPU上执行，10代表完全在GPU上执行，0与10之间的p值代表在CPU-GPU上同时执行。

5.根据权利要求1所述的一种基于OpenCL内核任务的调度方法，其特征在于，所述的基于Baseline调度算法，该算法中定义了三种任务队列C、G、M，分别表示任务只在CPU或者GPU或者单个CPU与GPU之间执行，在算法执行过程中，若两种设备类型都处于空闲状态，就从等待队列Q中选择一个任务，将其调度模式改为CPU-GPU混合模式后执行调度；若只有一个设备可用，从队列Q中选择一个任务，将调度模式改为在空闲GPU或在CPU上调度执行。