[发明专利]用于追踪统一虚拟存储器系统中的页面故障的故障缓冲区

说明书

相关申请的交叉引用

本申请要求享有于2013年3月14日提交的、序列号为61/782,349的美国临时专利申请的优先权。本申请还要求享有于2013年3月15日提交的、题目为“CPU-To-GPU and GPU-To-GPU Atomics”的、序列号为61/800,004的美国临时专利申请的优先权。这些相关申请的主题在此通过援引并入本文。

技术领域

本发明的实施例总地涉及虚拟存储器，并且更具体地，涉及用于追踪虚拟存储器系统中的页面故障（fault）的故障缓冲区。

背景技术

许多现代的计算机系统典型地实现某种类型的虚拟存储器架构。在其他方面，虚拟存储器架构使能指令以使用虚拟存储器地址而非物理存储器地址访问存储器。通过提供物理存储器和应用软件之间的该虚拟存储器层，用户级软件被屏蔽以免获得物理存储器管理的细节，其被留给专用存储器管理系统。

实现虚拟存储器架构的典型的计算机系统包括中央处理单元（CPU）和一个或多个并行处理单元（GPU）。在操作中，在CPU或GPU上执行的软件过程可以经由虚拟存储器地址请求数据。在许多传统架构中，用于CPU和GPU的、处置经由虚拟存储器地址对于数据的请求的虚拟存储器系统是独立的。更具体地，分开的CPU存储器管理系统和分开的GPU存储器管理系统分别处置来自CPU和GPU的对于数据的请求。

存在与这类独立的存储器管理系统相关联的数个缺陷。例如，每个独立的存储器管理系统不一定具备与其他存储器管理系统相关联的存储器单元的内容的知识。因此，存储器管理系统不一定能协作以提供一定的效率，诸如确定数据应该被存储在何处用于改进的访问时延。此外，因为存储器管理系统是独立的，所以用于一个这类系统的指针不一定与其他系统兼容。因此，应用程序员必须保持对两个不同类型的指针的追踪。

如前述示出，本领域所需要的是管理具有诸如CPU和GPU的异构处理器的系统中的虚拟存储器的更高效的方法。

发明内容

本发明的一个实施例阐述用于经由页面状态目录（directory）管理虚拟存储器到物理存储器映射的系统。系统包括配置为执行引用第一虚拟存储器地址的第一操作的第一处理单元。系统还包括第一存储器管理单元（MMU），其与第一处理单元相关联并且配置为一经确定存储在与第一处理单元相关联的第一存储器单元中的第一页面表不包括与第一虚拟存储器地址相对应的映射，就生成第一页面故障（fault）。系统进一步包括与第一处理单元相关联的第一拷贝引擎。第一拷贝引擎配置为读取第一命令队列以确定与第一虚拟存储器地址相对应并且包括在第一页面状态目录中的第一映射。第一拷贝引擎还配置为更新第一页面表以包括第一映射。

所公开的方法的一个优势是用户级应用不需要取决于特定数据片段存储在何处保持对多个指针的追踪。附加优势是基于使用在存储器单元之间迁移存储器页面，其允许存储器页面位于更频繁地访问存储器页面的单元的本地。另一个优势是允许由PPU所生成的故障被合并用于高效执行的故障缓冲区被提供。

附图说明

因此，可以详细地理解本发明的上述特征，并且可以参考实施例得到对如上面所简要概括的本发明更具体的描述，其中一些实施例在附图中示出。然而，应当注意的是，附图仅示出了本发明的典型实施例，因此不应被认为是对其范围的限制，本发明可以具有其他等效的实施例。

图1是示出了配置为实现本发明的一个或多个方面的计算机系统的框图；

图2是根据本发明的一个实施例的、示出了统一虚拟存储器系统的框图；

图3是根据本发明的一个实施例的、用于追踪存储器页面的状态的系统300的示意图；

图4是根据本发明的一个实施例的、实现迁移操作的系统的示意图；

图5示出了根据本发明的一个实施例的、用于将故障存储在故障缓冲区中的虚拟存储器系统；

图6示出了根据本发明的一个实施例的、用于解决由PPU所生成的页面故障的虚拟存储器系统；

图7阐述了根据本发明的一个实施例的、用于经由页面状态目录管理虚拟存储器到物理存储器映射的方法步骤的流程图；

图8阐述了根据本发明的一个实施例的、用于追踪页面故障的方法步骤的流程图；

图9阐述了根据本发明的一个实施例的、用于利用故障缓冲区解决页面故障的方法步骤的流程图；