[发明专利]任务处理方法、装置、介质及其设备

说明书

一种任务处理方法、装置、介质及其设备，涉及计算机处理器领域。所述任务处理方法包括：任务处理装置接收多个需要在图形处理器上执行的任务(101)；任务处理装置根据多个任务中不同的N个任务之间的并行性能值，从多个任务中选择N个任务在图形处理器上并行执行(102)；任务处理装置根据图形处理器的状态和每一个未被执行任务与图形处理器上正在执行的任务之间的并行性能值，从未被执行任务中选择一个满足预设条件的任务在图形处理器上执行(103)。本方法可动态调整任务的执行对GPU资源的占用情况，从而实时有效地提高GPU资源的利用率。

技术领域

本发明涉及计算机处理器领域，特别涉及一种任务处理方法、装置、介质及其设备。

背景技术

GPU(Graphics Processing Unit，图形处理器)作为一个大规模并行计算元件，因其日益强大的计算能力，已经被广泛应用于通用计算中。不同领域中的大量程序都用GPU进行加速，如传统计算密集型的科学计算、文件系统、网络系统、数据库系统和云计算等。

GPU线程的调度一般分成两个阶段。第一个阶段是将GPU任务中的一个线程块(block)或线程组(work-group)(请注意，block和work-group在本申请中统称为线程组)调度到某一个CU(计算单元)/SM(流处理器)上。第二个阶段则是在CU/SM上的调度。当一个work-group被分配到CU/SM上后，会以wave-front(ADMGPU中的线程束)或者warp(NvidiaGPU中的线程束)为单位被调度到不同的功能部件上运行。AMD的GPU主要的功能部件有SALU(一种标量计算功能部件)、VALU(一种矢量计算功能部件)和内存访问单元等；NvidiaGPU主要的功能部件有普通计算单元、特殊计算单元和内存访问单元等。

同一种任务在GPU上运行时，由于同一任务中的线程束的运行特性相似，对某种功能部件的需求高于对其他功能部件的需求，这样使得其他功能部件处于空闲，造成GPU的资源浪费。并发执行不同的任务可以减少这一资源浪费。现有技术中简单的将不同任务的线程块或线程组合并成一个运行的技术只能通过静态地修改任务来达到提高资源利用的目的，而且，由于这些方案只能静态地修改任务，当GPU上资源不足以分配合并的任务却能分配单个任务时，容易造成更严重的资源浪费。

发明内容

本发明的目的在于提供一种任务处理方法、装置、介质及其设备，可动态调整任务的执行对GPU资源的占用情况，从而实时有效地提高GPU资源的利用率。

为解决上述技术问题，本发明的实施方式公开了一种任务处理方法，在该方法中，任务处理装置接收多个需要在图形处理器上执行的任务，并从多个任务中选择N个任务计算其并行性能值，对于不同的N个任务计算其不同的并行性能值，并根据计算所得的多个并行性能值选取N个任务在图形处理器上并行执行，然后，在选择出上述N个任务在图形处理器上执行后，根据图形处理器的状态和每一个没有被执行任务与图形处理器上正在执行的任务之间的并行性能值，从没有被执行任务中选择一个满足预设条件的任务在图形处理器上执行。

在该方法中，任务的线程组划分形式可以包含两类。第一类划分形式为将任务切分为线程组数目更小子任务，第二类划分形式为将任务中的至少两个线程组合并为一个线程组。同时，可以采用多种方式对任务进行线程组划分。例如，通过设定任务在每个单指令多数据流(SIMD)中被允许活跃的线程束(或者线程束)的数目来对任务进行线程组划分，具体地，设定任务在每个单指令多数据流中被允许活跃的线程束的数目；并根据设定的线程束的数目，确定采用第一类划分形式时，需要切分成的子任务的数目，或者确定采用第二类划分形式时需要合并的线程组的数目。