[发明专利]指令调度方法、指令调度装置、处理器及存储介质

说明书

一种指令调度方法、指令调度装置、处理器及存储介质，该指令调度方法包括：选出第一线程束发起的对于第一指令地址的第一取指请求，并进行对于第一指令地址取指操作；接收从第一指令地址返回的对应于第一取指请求的第一指令数据；响应于第二线程束发起的对第一指令地址进行取指的第二取指请求，将第一指令数据在第一时钟周期中广播发送至第一线程束的指令数据存取区的写地址和第二线程束的指令数据存取区的写地址。该指令调度方法能够减少计算单元由于取指操作对指令缓存或其他若干级缓存等缓存系统的访问，减少指令缓存或其他若干级缓存等缓存系统的访问带宽，进而减少执行指令所需数据的数据缓存或其他若干级缓存等缓存系统的访问带宽。

技术领域

本公开的实施例涉及一种指令调度方法、指令调度装置、处理器及存储介质。

背景技术

通用计算图形处理器(GPGPU，general-purpose graphics processing unit)属于一种类型的GPU，更加倾向于通用计算而非图形的渲染，内部同样拥有大量的可以独立运行的计算单元，例如，流多处理器(SM，Streaming Multiprocessor)，因此，GPGPU的并行程度很高。

图1示出一种通用图形处理器(GPGPU)的一种结构示意图。在并行计算中，计算任务一般通过多个线程(thread)执行，多个线程(thread warp)共享一个指令流。这些线程在通用图形处理器(或称为并行计算处理器)中执行前，在线程块调度装置中被划分成多个线程块(thread block)，不同的计算任务对应不同的线程块，且同一个计算任务对应的线程块执行的kernel(GPGPU可执行的程序代码)是相同的，区别是同一线程块中每个线程所操作的数据不同。然后经由线程块分发装置，将多个线程块分发到各个计算单元(CU)(例如，流多处理器(SM))，多个线程块可以在同一个计算单元中执行，或者在不同计算单元中执行。一个线程块中的所有线程必须要分配到同一个计算单元上执行。同时，线程块会被拆分成最小执行线程束(或简称线程束，thread warp)，每个线程束包含了固定数量(或小于这个固定数量)的线程，例如，32个线程。当多个线程块在同一计算单元中执行时，该计算单元中的线程束可以来自于同一个线程块或不同的线程块，且同一线程束中所有线程可以按照SIMD(Single Instruction Multiple Data，单指令多数据流)的方式执行。

例如，图1所示每个计算单元包括指令调度装置(Instruction Scheduler)(或称为线程束调度/分发模块，Warp Scheduler)和多个计算核心，其中，指令调度装置中可以包括指令数据存取区，指令数据存取区例如为用于临时存储指令数据的随机存取存储器(ram)，每个计算核心中包括寄存器堆。每个计算单元各自对应的指令缓存(InstructionCache)和数据缓存(Data Cache)可以是计算单元之外的L1缓存，例如，少量计算单元也可以共享同一个指令缓存和同一个数据缓存，不同计算单元的指令缓存和数据缓存也可以共享下一级缓存。指令调度装置对运行在计算单元上的线程束进行取指、译码、调度、分配等一系列功能，以便该计算单元的多个计算核心(例如，流处理器(SP))运行线程束。例如，每个计算核心包括算数逻辑单元(ALU)、浮点计算单元等。根据计算单元中计算核心的个数，一个线程块中的多个线程束可以同时执行或分时执行。每个线程束中的多个线程会执行相同的指令，指令执行完得到的结果更新到每个线程束对应的寄存器中。