[发明专利]多处理器上的数据并行计算

说明书

相关申请的交叉引用

本申请与发明人为Aaftab Munshi等，在2007年4月11日提交的标题 为“DATA PARALLEL COMPUTING ON MULTIPLE PROCESSORS” (多处理器上的数据并行计算)的美国临时专利申请No.60/923,030和发 明人为Aaftab Munshi，在2007年4月20日提交的标题为“DATA PARALLEL COMPUTING ON MULTIPLE PROCESSORS”(多处理器上 的数据并行计算)的美国临时专利申请No.60/925,616相关，并且要求这 两者的权益，这两者通过引用被结合于此。

技术领域

本发明一般地涉及数据并行计算，更具体而言，本发明涉及跨越CPU (中央处理单元)和GPU(图形处理单元)两者的数据并行计算。

背景技术

随着GPU继续演进成高性能并行计算装置，越来越多的应用被写入以 在与通用计算装置类似的GPU中执行数据并行计算。如今，这些应用被设 计成在使用供应商特定接口的特定GPU上运行。因此，它们既不能在数据 处理系统具有GPU和CPU两者时平衡(leverage)CPU，也不能在这样的应 用正运行在来自不同供应商的GPU上时被平衡。

然而，随着越来越多的CPU包括多个核心来执行数据并行模型的计 算，通过可用的CPU和/或GPU的任一者可以支持越来越多的处理任务。传 统上，GPU和CPU是通过相互不兼容的分开的编程环境来配置的。大多数 GPU需要供应商特定的专用程序。结果，应用很难在处理资源方面平衡 CPU和GPU两者，例如具有数据并行计算能力的GPU连同多核CPU。

因此，需要现代的数据处理系统来克服以上问题以允许应用在能够执 行任务的任何可用处理资源(例如CPU或一个或多个GPU)中执行该任 务。

发明内容

本发明的一个实施例包括接收来自应用程序的处理性能需求以指定包 括CPU和GPU的一个或多个物理计算装置来并行执行应用的多个线程的方 法和设备。针对应用生成计算装置标识符以指定用于一个或多个线程的一 个或多个物理计算装置。性能需求和计算装置标识符与通过应用的API调 用相关联。

在一个可替换实施例中，应用程序发送代表处理性能需求的数据，以 接收用于该应用程序的一个或多个线程的一个或多个计算标识符。计算标 识符针对该应用程序指定包括CPU和GPU的一个或多个物理计算装置来执 行这一个或多个线程。

在一个可替换实施例中，并行计算体系结构包括：主处理器，该主处 理器与图形处理单元(GPU)和中央处理单元(CPU)耦合，来在耦合到 该主处理器、GPU和CPU的存储器中托管(host)系统应用程序和第一应 用程序。存储器存储部分地在主处理器上执行的第一应用程序。第一应用 程序的多个线程被有选择地调度以用于在GPU或CPU的任一者上执行。系 统应用程序通过API与第一应用程序通信，来向多个线程指派至少一个逻 辑计算装置标识符，这至少一个逻辑计算装置标识符指定所述CPU和所述 GPU中的至少一者。

在一个可替换实施例中，由逻辑计算装置标识符标识的并行计算机体 系结构中的计算单元包括至少一个物理处理装置，所述物理处理装置包括 存储器。这至少一个物理处理装置执行与存储器中所分配的存储流相关联 的一个或多个计算内核。

从附图和以下详细描述中，本发明的其他特征将显而易见。

附图说明

在附图的示图中通过示例而非限制来图示本发明，相似的标号表示相 似的元素，附图中：

图1是图示出用于配置包括CPU和/或GPU的计算装置来执行应用的数 据并行计算的系统的一个实施例的框图；

图2是图示出具有多个并行操作来并发地执行多个线程的计算处理器 的计算装置的示例的框图；

图3是图示出经由计算装置标识符被配置为逻辑计算装置的多个物理 计算装置的一个实施例的框图；

图4是图示出通过匹配从应用接收到的能力需求来利用计算装置标识 符配置多个物理计算装置的处理的一个实施例的流程图；

图5是图示出在逻辑计算装置中执行计算可执行体的处理的一个实施 例的流程图；