[发明专利]组合式CPU/GPU体系结构系统中的装置发现和拓扑报告

说明书

背景

发明领域

本发明大体上是针对计算机系统。更具体来说，本发明是针对计算机系统拓扑。

背景技术

对使用图形处理单元(GPU)来进行一般计算的渴望在最近由于GPU的示例性每单位功率性能和/或成本而变得更加显著。一般来说，GPU的计算能力已以超过对应中央处理器(CPU)平台的计算能力的速率增长。随着移动计算市场(例如，笔记本计算机、移动智能电话、平板计算机等)和其所必需的支持服务器/企业系统的蓬勃发展，这种增长已被用来提供指定品质的所需用户体验。因此，组合使用CPU和GPU来执行具有数据并行内容的工作量正在成为一项体积技术(volume technology)。

然而，GPU传统上已在约束程序设计环境中进行操作，其可主要用于图形的加速。这些约束由以下事实而引起：GPU并不具有与CPU一样丰富的程序设计生态系统。因此，它们的使用已主要限于二维(2D)和三维(3D)图形以及少数前沿的多媒体应用，这些多媒体应用已被习惯地用于处理图形和视频应用程序设计接口(API)。

随着多厂商支持的OpenCL和DirectCompute标准API和支持工具的出现，GPU在传统应用中的限制已被扩展到传统图形的范围之外。虽然OpenCL和DirectCompute是有希望的开端，但是在创建允许将CPU和GPU组合来像CPU一样流畅地用于大多数程序设计任务的环境和生态系统方面仍存在着许多障碍。

现有的计算系统常常包括多个处理装置。例如，一些计算系统包括在独立芯片上的CPU和GPU(例如，CPU可能位于母板上，而GPU可能位于图形卡上)或在单个芯片封装中的CPU和GPU。然而，这两种布置仍包括与以下各项相关的重大挑战：(i)独立的存储系统、(ii)有效调度、(iii)提供进程之间的服务质量(QoS)保证、(iv)程序设计模型以及(v)编译至多个目标指令集体系结构(ISA)—全部都要同时使功耗降到最小。

例如，离散的芯片布置迫使系统和软件体系结构设计者利用芯片间接口来使每一个处理器存取存储器。虽然这些外部接口(例如，芯片间接口)对用于配合异构型处理器的存储器等待时间和功耗具有负效应，但是独立的存储系统(即，独立的地址空间)和驱动器管理的共享存储器产生开销，所述开销对细粒卸荷(fine grain offload)来说变得不可接受。

离散芯片布置和单芯片布置两者都会限制能够发送至GPU来执行的命令的类型。举例来说，常常不应将计算命令(例如，物理或人工智能命令)发送至GPU来执行。存在这个基于性能的限制是因为CPU可能相对快速地需要由这些计算命令执行的操作的结果。然而，由于当前系统中的向GPU分派工作的高开销以及这些命令可能必须排队等候首先执行其它先前发出的命令的事实，所以将计算命令发送至GPU所引发的等待时间常常是不可接受的。

假定传统GPU可能不会有效地执行一些计算命令，则所述命令必须在CPU内部执行。必须在CPU上执行命令增加了对CPU的处理负担并且会阻碍总的系统性能。

虽然GPU为计算卸荷提供了极好的机会，但是传统GPU可能并不适合于系统-软件-驱动进程管理，所述系统-软件-驱动进程管理是在多处理器环境中进行有效操作所需要的。这些限制会产生若干问题。

例如，由于进程无法被有效地识别和/或抢先，所以流氓进程可以在任意长的时间内占用GPU硬件。在其它情况下，对硬件进行上下文切断的能力受到严重约束，此情形发生在非常粗略的粒度下，而且只发生在程序执行过程中一组极为有限的点上。存在这个约束是因为不支持节省必要的体系结构和微体系结构状态来恢复和继续进程。缺乏对精确异常的支持会阻止有故障的作业在稍晚的点上进行上下文切出和恢复，从而导致较低的硬件利用率，因为有故障的线程占用了硬件资源而且在故障处理期间处于闲置状态。

将CPU、GPU、I/O存储器管理组合成统一体系结构以使得计算任务可以有效地进行调度和分配，这需要系统和应用软件具有统一CPU/GPU系统体系结构的特征、特性、互连和属性等方面的某些知识。

发明内容

所需要的是用于发现并报告装置和系统拓扑的特性的改进的方法和设备，所述特性与向实施组合式CPU/GPU体系结构的系统的各种计算资源有效地调度和分配计算任务有关。