[发明专利]GPU虚拟化

说明书

本发明涉及GPU虚拟化。GPU虚拟化的方法包括由管理程序给每个虚拟机(或在VM上运行的操作系统)分配标识符，且接着这个标识符用于给从在给定VM上下文内操作的GPU工作负荷得到的每个交易(即在使CPU、GPU和其它外围设备互连的系统总线上的每个GPU交易)加上标签。此外，为每个VM提供存储器资源的专用部分(其可以是GPU寄存器或RAM)，且同时每个VM可以只看到存储器的它们的所分配的部分，在GPU内的微处理器可看到所有存储器。使用根存储器管理单元来实现访问控制，根存储器管理单元由管理程序配置并基于与交易相关的标识符将客户机物理地址映射到实际存储器地址。

背景

当前计算系统常常包括中央处理单元(CPU)和图形处理器单元(GPU)，其也可被称为视频处理单元(VPU)。GPU是具有高度平行的结构且一般用于图形操作例如纹理映射和再现多变形的处理器。图形命令从CPU发送到GPU(经由GPU驱动器)并在GPU上被执行。

在很多情况下，CPU可运行多个虚拟机(VM)，每个虚拟机运行操作系统(例如其中在不同VM上运行的操作系统可以是相同的或不同的)。VM由被称为管理程序(或虚拟机监视器，VMM)并控制每个VM对在计算系统内的硬件的访问的软件创建和监督。因此，在操作系统(在VM上运行)和GPU之间的通信常常通过负责实施安全的管理程序。

下面所述的实施方式仅作为例子被提供且不是解决虚拟化GPU的已知方法的任何或所有缺点的实现的限制。

概述

这个概述被提供来以简化的形式介绍概念的选择，其在下面在详细描述中被进一步描述。这个概述并不打算识别所主张的主题的关键特征或必要特征，也不打算用作在确定所主张的主题的范围时的帮助。

GPU虚拟化的方法包括由管理程序给每个虚拟机(或在VM上运行的操作系统)分配标识符，且接着这个标识符用于给从在给定VM上下文内操作的GPU工作负荷得到的每个交易(即在使CPU、GPU和其它外围设备互连的系统总线上的每个GPU交易)加上标签。此外，为每个VM提供存储器资源的专用部分(其可以是GPU寄存器或RAM)，且同时每个VM可以只看到存储器的它们的所分配的部分，在GPU内的微处理器可看到所有存储器。使用根存储器管理单元来实现访问控制，根存储器管理单元由管理程序配置并基于与交易相关的标识符将客户机物理地址映射到实际存储器地址。在GPU内的微处理器中运行的软件涉及管理不同VM的工作负荷(例如不是依赖于在CPU中运行的管理程序软件来控制并管理工作负荷)。

第一方面提供计算系统，其包括：布置成在管理程序的控制下运行多个虚拟机的中央处理单元，以及其中由中央处理单元输出的交易被分配它所相关的虚拟机的标识符；布置成在由虚拟机使用的虚拟存储器地址和客户机物理地址之间转换的CPU存储器管理单元；由管理程序配置并布置成基于被分配到交易的虚拟机的标识符在由CPU存储器管理单元使用的客户机物理地址和实际物理存储器地址之间转换的第一根存储器管理单元；包括微处理器的图形处理器单元，以及其中由图形处理器单元输出的交易被分配虚拟机的标识符，虚拟机从接收自中央处理单元的触发交易继承该标识符；布置成在由图形处理器单元使用的虚拟存储器地址和客户机物理地址之间转换的GPU存储器管理单元；以及由管理程序配置并布置成基于被分配到交易的虚拟机的标识符在由GPU存储器管理单元使用的客户机物理地址和实际物理存储器地址之间转换的第二根存储器管理单元；以及其中对存储器资源的一个或多个部分的访问作为由根存储器管理单元执行的地址转换的结果被控制。

第二方面提供一种方法，其包括：由管理程序将存储器资源的一部分和标识符分配到在中央处理单元上运行的多个虚拟机中的每个；在第一和第二根存储器管理单元中配置转换表，其中转换表基于虚拟机的标识符来定义在客户机物理地址和实际物理地址之间的转换，第一根管理单元与中央处理单元相关，而第二根管理单元与图形处理器单元相关；以及在一个或多个虚拟机的执行期间，使用交易所相关的虚拟机的标识符给由中央处理单元输出的交易加上标签，并且在根存储器管理单元内，基于交易被加标签所用的标识符来转换在交易中的地址。