[发明专利]用于多级存储器的高效的管理的装置和方法

说明书

描述了一种装置。装置包括用于与具有近存储器和远存储器的多级存储器接合的存储器控制器。存储器控制器用于维护第一高速缓存和第二高速缓存。第一高速缓存用于缓存从远存储器近期访问的页面。第二高速缓存用于缓存从远存储器近期访问的页面的地址。第二高速缓存具有第一级和第二级。第一级用于缓存这样的页面的地址：与其相应的地址被缓存在第二级中的页面相比这些页面更近期地被访问。存储器控制器包括逻辑电路，逻辑电路用于通知系统软件：(a)比第一高速缓存中的其他页面更少被访问的第一高速缓存中的第一页面是从远存储器迁移到近存储器的候选；和/或(b)其地址在第二高速缓存的第一级和第二级之间进行了门限数量的往返的第二页面是从远存储器迁移到近存储器的候选。

技术领域

本发明的领域总体上涉及计算科学，并且更具体地，涉及用于多级存储器的高效的管理的装置和方法。

背景技术

随着“大数据”、云计算/中心计算、人工智能和其他计算密集型计算环境的出现，计算机系统和组件设计者正在寻求提高存储器性能的方式。这里，计算密集型计算操作通常访问存储器中的大量数据。这样，将更多信息存储在存储器中的能力以及快速访问该信息的能力将极大地提高在计算密集型环境中操作的计算系统的性能。

附图说明

可以结合以下附图从以下具体实施方式中获得对本发明的更好的理解，其中：

图1示出了多级主存储器；

图2示出了耦合到多级存储器的存储器控制器；

图3示出了地址高速缓存中的条目的实施例；

图4示出了耦合到多级存储器的另一存储器控制器；

图5示出了计算系统。

具体实施方式

具有远存储器(FM)高速缓存的多级主存储器

图1描绘了多级主存储器100。如图1所观察到的，多级主存储器100包括第一级101和第二级102，其中，第一级101的特征在于是易失性的并且至少针对写入操作具有比第二级102更短的访问时间。第二级102的特征在于至少针对写入操作具有比第一级101更长的访问时间并且是非易失性的。

在各种实施例中，级101、102二者都具有操作系统、操作系统实例和/或虚拟机监视器(在下文中被称为“系统软件”)能够分配(例如，分配给在具有多级主存储器的计算系统上执行的各个软件应用)的相应的地址空间。如本领域所理解的，通过以下操作来组织主存储器：在主存储器中针对应用当在主存储器100外执行时使用的信息(指令或数据)的每一页指派唯一的物理地址。

理想地，系统软件能够分配主存储器地址空间，使得被最频繁访问的页面驻留在第一级101(在下文中被称为“近存储器”)中，而被较不频繁访问的页面驻留在第二级102(在下文中被称为“远存储器”)中。

尽管系统软件通常期望在近存储器中分配被最频繁访问的页面，但是系统软件经常很少或根本不了解哪些页面事实上在运行时期间被最频繁访问。这里，特别是在分布式系统中(其中，多个应用可以访问主存储器的相同的区域(并且因此可以访问相同的页面))，系统软件无法(以任何高效的方式)确定哪些页面是“热”的，而哪些页面是“冷”的。

这样，如图2所观察到的，多级主存储器实施方式200还包括存储远存储器的被最近访问的页面的远存储器(FM)高速缓存203。在各种实施例中，FM高速缓存203是用DRAM存储器资源的特殊的被保留的部分来实现的，DRAM存储器资源用于实现近存储器201。例如，用于实现近存储器201的DRAM存储器模块的物理地址空间的子集被保留用于FM高速缓存203，而不是可由系统软件分配作为主存储器地址空间。如下面进一步详细解释的，远存储器202可以用新兴的三维(堆叠)非易失性存储器单元技术(非易失性随机访问存储器(NVRAM))来实现，该存储器单元技术能够支持字节可寻址的存储器地址。