[发明专利]同时计算和图形调度

权利要求书

1.一种图形处理单元，包括：

流式多处理器，其执行并行指令流；和

连接到所述流式多处理器的调度器，所述调度器调度所述流式多处理器以并行地同时执行至少一个图形线程束和至少一个计算线程束。

2.如权利要求1所述的图形处理单元，进一步包括：

所述调度器在所述调度步骤期间监控与所述流式多处理器相关联的资源利用，以及

响应于检测到资源利用不足，在以将图形线程束重复地调度到所述流式多处理器的图形贪婪模式进行操作时将至少一个计算线程束调度到所述流式多处理器，或者，在以将计算线程束重复地调度到所述流式多处理器的计算贪婪模式进行操作时将至少一个图形线程束调度到所述流式多处理器。

3.一种并行处理单元，包括：

多个处理单元，每个处理单元配置成在各个时间以图形贪婪模式或计算贪婪模式操作，以及同时运行来自图形队列的图形工作项和来自计算队列的计算工作项；

硬件调度器，配置成：当所述多个处理单元中的特定处理单元配置成在所述图形贪婪模式下操作时，连续地从所述图形队列中选择图形工作项以在所述特定处理单元上运行，和当所述特定处理单元配置成在所述计算贪婪模式下操作时，连续地从所述计算队列中选择计算工作项以在所述特定处理单元上运行；以及

硬件仲裁器，配置成响应于将至少一个所监视的性能或利用度量与用户配置的阈值进行比较的结果，选择性地：当所述特定处理单元配置成在所述图形贪婪模式下操作时使所述特定处理单元运行来自所述计算队列的一个或更多个计算工作项，以及当所述特定处理单元配置成在所述计算贪婪模式下操作时使所述特定处理单元运行来自所述图形队列的一个或更多个图形工作项。

4.如权利要求3所述的并行处理单元，其中所述多个处理单元中的每一个处理单元是单指令多数据(SIMD)处理器或单指令多线程(SIMT)处理器。

5.如权利要求3所述的并行处理单元，其中所述硬件调度器还配置成：至少基于与所述图形工作项和所述计算工作项相关联的软件配置的优先级值来选择所述图形贪婪模式或所述计算贪婪模式。

6.如权利要求5所述的并行处理单元，其中所述硬件仲裁器还配置成：基于软件配置的调度策略来选择使所述计算工作项或所述图形工作项运行。

7.如权利要求6所述的并行处理单元，其中所述硬件仲裁器还配置成：进一步基于与所述图形工作项和所述计算工作项的处理和存储器资源的占用相对应的占用度量来选择使所述计算工作项或所述图形工作项运行。

8.如权利要求7所述的并行处理单元，其中所述硬件仲裁器还配置成：基于所述特定处理单元中的度量来选择使所述计算工作项或所述图形工作项运行。

9.如权利要求7所述的并行处理单元，其中硬件仲裁器还配置成：基于所述特定处理单元和其他处理单元中的度量来选择使所述计算工作项或所述图形工作项运行。

10.如权利要求7所述的并行处理单元，其中所述硬件仲裁器还配置成：进一步基于与来自所述处理单元的图形工作项的输出相关联的输出停止度量以及基于与到所述处理单元的所述图形工作项和所述计算工作项的输入相关联的输入饥饿度量，来选择使所述计算工作项或所述图形工作项运行。

11.如权利要求10所述的并行处理单元，其中所述硬件仲裁器还配置成：进一步基于所述占用度量的时间平均值、与所述图形工作项相关联的所述输出停止度量、以及与所述图形工作项和所述计算工作项的输入相关联的所述输入饥饿度量，来选择使所述计算工作项或所述图形工作项运行。