[发明专利]一种SIMT条件分支处理装置及方法

说明书

本发明涉及一种SIMT条件分支处理装置及方法。本发明的装置包括分支处理装置硬件、指令和编程模型；分支处理装置硬件分别与指令和编程模型连接，指令和编程模型连接，其中：分支处理装置硬件为外部用户代码执行的硬件载体，具有来自外部用户代码的关系；所述指令为外部用户代码提供该装置的使用接口，具有到外部用户代码的关系；所述编程模型为外部用户代码提供指令序列在使用时的约束和限制，具有到外部用户代码的关系。本发明为SIMT处理器的条件分支提供一种低代价、易实现的方案，同时适用于细粒度SIMT多线程处理器和粗粒度SIMT多线程处理器。

技术领域

本发明属于处理器和图形处理器设计技术领域，尤其涉及一种SIMT条件分支处理装置及方法。

背景技术

粗粒度多线程处理器中，当前线程遇到长延迟事件时，通过切换到其他的线程来使用处理器资源，以掩盖长延迟事件造成的停顿。然而，粗粒度多线程的线程切换仅在遇到长延迟事件时发生，切换频率较低，一般通过操作系统保存线程的现场，因而线程切换时，线程现场的保存、装载需要一定的开销，在此期间，处理器运算资源闲置。

细粒度多线程处理器中，同样通过线程切换掩盖长延迟事件造成的停顿，与粗粒度多线程不同，细粒度多线程以固定的若干周期进行线程的切换，切换频率较高，为降低切换时线程现场保存、装载的开销，细粒度多线程以硬件的方式支持线程多线程，故线程切换时可以做到零开销。

Warp是由待处理数据、对数据进行加工的程序，以及加工后产生的结果数据组成的集合。多个warp可在同一硬件上互不干扰地分时执行，不同warp需要有不同的现场记录相关信息，即warp需要由相应的硬件支持。

单指令多线程(SingleInstructionMultiThread,SIMT)使用单条指令控制多个线程的执行，即多个线程同时执行同一条指令。SIMT技术应用于处理器设计，可以节省取指逻辑资源，将更多的晶体管用于计算，提供处理器的运算能力；在诸如图形计算中，大量的顶点、像素需进行相同操作，具有极高的数据并行性，SIMT具有很好的适应性；非图形计算中，不同线程的执行路径，会有所差异，SIMT存在效率不高问题。

SIMT处理器中，当线程组中的所有线程具有相同的执行路径时，SIMT处理器可获得全部的效率和性能；如果线程组中的线程在条件分支时因各线程数据的不同造成执行路径的差异，则需按照每个分支路径顺序执行。

现有的SIMT处理器，大多使用分支同步栈管理各个分支和聚集线程，实现复杂、硬件代价较大。

发明内容

为解决背景技术中存在的上述问题，本发明提供了一种SIMT条件分支处理装置及方法，为SIMT处理器的条件分支提供一种低代价、易实现的方案，同时适用于细粒度SIMT多线程处理器和粗粒度SIMT多线程处理器。

本发明的技术解决方案是：本发明为一种SIMT条件分支处理装置，其特殊之处在于：所述SIMT条件分支处理装置包括分支处理装置硬件、指令和编程模型；分支处理装置硬件分别与指令和编程模型连接，指令和编程模型连接，其中：

分支处理装置硬件为外部用户代码执行的硬件载体，具有来自外部用户代码的关系；所述指令为外部用户代码提供该装置的使用接口，具有到外部用户代码的关系；所述编程模型为外部用户代码提供指令序列在使用时的约束和限制，具有到外部用户代码的关系；

分支处理装置硬件通过指令进行操作，具有来自指令的依赖关系；所述分支处理装置硬件的实现以编程模型为前提，具有对编程模型的依赖关系；所述指令由分支处理装置硬件执行，具有来自分支处理装置硬件的依赖关系；所述指令的使用必须遵守编程模型，具有来自编程模型的依赖关系；所述编程模型的实现依赖于指令组成的序列，具有来自指令的依赖关系；所述编程模型体现在代码中在分支处理装置硬件上执行，编程模型具有来自分支处理装置硬件的依赖关系。