[发明专利]一种图形处理器及其资源调度方法、装置

说明书

本发明实施例提供一种图形处理器及其资源调度方法、装置，涉及计算机技术领域。其中，图形处理器包括：全局调度器和至少两个流式多处理器SM；相应的资源调度方法包括：全局调度器接收核程序，将所述核程序中的第一线程块发送给第一SM；第一SM接收所述第一线程块，检测到所述第一SM的剩余资源量不满足所述第一线程块所需的运行条件后，将第一线程块记录为横跨线程块，并将横跨线程块的至少一个线程束发送给第二SM，从而使得SM之间可共享部分资源，提高资源利用率。

技术领域

本发明涉及计算机技术领域，特别是涉及一种图形处理器、一种资源调度方法、一种资源调度装置、一种电子设备以及一种可读存储介质。

背景技术

随着图形处理器(Graphic Processing Unit，GPU)通用计算技术的发展，GPU不再局限于图像处理，能够实现众多类型的通用程序，已经广泛应用于不同的领域。

GPU通常包含多个独立的流式多处理器(Stream Multiprocessor，SM)，且每个SM独立管理各自的三类关键资源。这三类关键资源分别为：寄存器、共享内存和线程束调度器项(Warp Schedule options，WPs)。GPU在运行kernel程序时，需要针对这三类关键资源进行资源分配和回收。

当前GPU运行核(kernel)程序时，主要以线程块(Thread Block，TB)TB和线程束(Warp)两种不同粒度，将kernel程序的任务分发到不同的SM，使得SM以相应的粒度进行资源分配和回收。若某个SM的剩余关键资源不满足一个最小可运行的任务调度单元的运行需求时，则GPU就不会再向该SM发送kernel程序的任务，造成该SM的资源碎片。例如，在某个SM的剩余WPs数量低于kernel程序的一个Warp所需要的WPs数量时，GPU就不会再向该SM分发该kernel程序的任务；又如，在某个SM的剩余共享内存资源不满足该kernel程序的一个TB所需要的共享内存资源时，GPU也不会再向该SM分发该kernel程序的任务。由于GPU中每个SM的物理资源相同，且可运行的程序任务也相同，因此GPU中所有的SM都存在关键资源碎片，造成GPU资源浪费，降低了GPU的性能和资源利用率。

发明内容

本发明实施例提供一种新的GPU、一种资源调度方法、一种资源调度装置、一种电子设备以及一种可读存储介质，解决GPU中每个SM存在资源碎片所造成资源浪费的问题。

为达到上述目的，本发明的实施例采用如下技术方案：

第一方面，提供一种资源调度方法，应用于图形处理器中，该图形处理器包括全局调度器和至少两个流式多处理器SM，该方法包括：全局调度器接收核程序，将所述核程序中的第一线程块发送给第一SM；在第一SM接收到第一线程块后，若第一SM检测到该第一SM的剩余资源量不满足第一线程块所需要的运行条件，将第一线程块记录为横跨线程块，并将横跨线程块的至少一个线程束发送给第二SM。显然，本实施方式在SM不能完成全局调度器所分发的线程块时，可以将该线程块记录为横跨线程块，并且可将横跨线程块的至少一个线程束发送给另一个SM，从而使得横跨线程块可访问两个SM的资源，实现了SM之间的资源共享，进而能够解决GPU中单个SM存在资源碎片所造成资源浪费的问题，提高了整块GPU的资源利用率。

结合第一方面，在第一方面的第一种可能的实现方式中，还包括：第一SM为所述横跨线程块中的至少一个线程束分配资源。本实施方式能够将所述第一SM当前的剩余资源分配给所述横跨线程块，从而能够采用第一SM当前剩余资源执行横跨线程块中的线程束，达到充分利用第一SM的剩余资源的目的，提高资源利用率。