[发明专利]同时计算和图形调度

说明书

本发明提供了一种同时计算和图形调度。在一些示例中，描述了一种并行处理单元(例如，GPU)，包括硬件调度器和硬件仲裁器，其启动用于在SIMD/SIMT处理单元上同时执行的图形工作和计算工作。并行处理单元的每个处理单元(例如，流式多处理器)在各个时间以图形贪婪模式或计算贪婪模式操作。硬件仲裁器响应于将至少一个所监控的性能或利用度量与用户配置的阈值进行比较的结果，可以选择性地：当处理单元在计算贪婪模式下操作时使处理单元运行来自计算队列的一个或更多个计算工作项，以及当处理单元在图形贪婪模式下操作使处理单元运行来自图形队列的一个或更多个图形工作项。还描述了相关联的方法和系统。

相关申请的交叉参考

本申请涉及于2013年12月20日提交的、申请号为14/137,818、题为“用于同时执行计算和图形工作负载的系统、方法和计算机程序产品(System,method,and computerprogram product for simultaneous execution of compute and graphicsworkloads)”的美国专利申请。

优先权申明

没有。

技术领域

本公开涉及在计算机处理器上调度任务，更具体地涉及在并行处理单元(例如，图形处理单元(GPU))上调度图形任务和计算任务，以及更具体地涉及在并行处理单元(例如，GPU)的一组处理单元中的相同处理单元上调度图形任务和计算任务用于同时执行。

背景技术

提高处理系统的性能的一种方法是使用可以并行执行许多指令流的并行处理核。在过去的几年中，中央处理单元(CPU)和图形处理单元(GPU)从这种增加的并行性中受益。例如，超标量体系结构的处理器可以将多个指令分派给不同的执行单元，从而提高平均执行速度。类似地，许多现代GPU具有大规模并行处理架构，这意味着它们包含许多并行处理器，这些处理器可以在图形图像的不同部分上并行地操作。

过去，GPU功能仅限于一组明确定义的图形操作。当GPU变得可编程时，其发生了变化。例如，在2001年，NVidia发布了其GEForce3NV20GPU，提供可编程顶点和像素着色器。之后，Nvidia开发了并行计算平台和编程模型用于图形处理单元(GPU)上的通用计算。借助除了图形任务之外，开发人员还可以通过使用GPU处理功能来执行计算任务，从而显著加速计算应用程序。

GPU通常专门用于通过并行处理与特定场景相关的大量线程来处理大数据块。例如，可以将GPU最初分配给图形场景，其中所有GPU线程配置成并行处理图形数据。当GPU完成渲染图形时，CPU可以将GPU切换到不同的场景，并重新使用所有GPU资源来计算(图形除外)数据处理。

如本文所使用的，GPU图形场景包括与在GPU上执行指令以处理图形数据(例如渲染3D模型数据以生成2D图像数据，处理纹理，生成软阴影等)有关的状态。GPU计算场景包括涉及在GPU上执行指令以执行通用并行计算(例如在动画或大数据集分析中使用的物理计算)的状态。许多传统GPU可以配置成处理图形场景或计算场景，但不能同时处理两者。操作系统可以在执行期间根据需要动态地将GPU从一个场景切换到另一个场景，以便处理图形任务或计算任务。

在许多应用程序中需要动态地改变图形任务和计算任务之间的至少一些处理能力的分配而不需要进行场景切换，并且可以潜在地提高应用程序的处理速度以及提高资源利用率。例如，在处理图形的过程中，GPU可以在继续执行其他图形处理线程或线程束(warp)的同时完成一些图形处理线程或线程束。在GPU可以执行计算线程或线程束之前需要将场景从图形场景切换到计算场景，期间需要GPU在将任何处理资源分配给计算功能之前完成所有图形处理，从而增加延迟并降低处理器利用率。