[发明专利]用于优化多层存储器系统中的动态存储器指派的方法和设备

说明书

公开了用于优化多层存储器系统中的动态存储器分配的方法、设备、系统和制品。示例计算机可读存储介质包括指令用于，在计算机应用的离线剖析运行期间：响应于第一malloc函数调用，执行第一回溯以标识第一malloc函数调用之前的第一路径并且标识存储器中分配给第一路径的缓冲器的大小；并确定与分配给第一路径的缓冲器的温度相对应的指示符；并且在运行时期间：响应于第二malloc函数调用，执行第二回溯以标识第二malloc函数调用之前的第二路径；并且响应于对应于第一路径的第二路径，基于该指示符从存储器层分配存储器。

技术领域

本公开总体地涉及存储器分配，并且更具体地，涉及用于优化多层存储器系统中的动态存储器指派的方法和设备。

背景

近年来，软件结构已经改变，允许在应用程序或程序的运行时执行期间进行动态存储器分配。例如，代替静态存储器分配(例如，主存储器中的分配在程序的生命周期中持续存在)、动态存储器分配通过从自由存储(例如，为此目的而构造的存储器区域)分配存储器来管理存储器。可以调用库函数“malloc(动态存储器分配)”以从自由存储分配存储器块。malloc函数调用(例如，malloc调用)在运行时期间分配存储器并返回指向经分配的存储器的指针。当不再需要存储器时，可以释放指针，从而释放存储器，以便可以将其用于其他目的。

附图说明

图1是在调用malloc函数之前可以在运行时期间在软件中执行的函数的各种路径以及各种路径的相应温度的图示。

图2是用于优化多层存储器系统中的动态存储器分配的示例动态存储器分配器的框图。

图3至图5是代表机器可读指令的流程图，该机器可读指令可以被执行以实现图2的示例动态存储器分配器。

图6是被构造为执行图3至图5的指令以实现图2的动态存储器分配器的示例处理平台的框图。

附图并非按比例绘制。通常，贯穿(多个)附图和所附书面说明书，相同的附图标记将用于表示相同或相似的部分。

具体实施方式

Malloc是用于软件工程中用来动态分配存储器(例如，在运行时分配存储器)的函数。例如，当在运行时调用malloc函数时，该函数分配一块存储器并返回与分配的存储器的块对应的指针。当不再需要存储器时，指针可以被传递到对存储器接触分配的自由区(free)，以便将其用于其他目的。基于对malloc的调用(例如，malloc函数调用)分配的存储器可以来自单层存储器或来自多层存储器。

多层存储器系统包括各种类型的存储器以供使用。例如，三层系统可以包括：第一层(例如，性能层)，其包括用于存储具有较低等待时间和较高带宽的数据的高带宽存储器(HBM)；第二层(例如，中间层)，其包括用于存储具有中等等待时间和中等带宽的数据的双倍数据速率(DDR)存储器；以及第三层(例如，容量层)，其包括用于存储具有高等待时间和低带宽的数据的较低主存储器。基于存储器的结构/组件，可以在任何数量的层中构造其他存储器。

当存储器的多层可用时，可能期望将某些类型的数据(例如，热/流行路径)放置在较高层(例如，对应于较低等待时间和较高带宽的层)和将其他类型的数据(例如，冷/不流行的路径)放置到较低层。例如，当正在(通过malloc)分配的存储器被频繁地访问(例如，用于热数据对象)时，期望malloc返回更高层中的存储器。另外，当此类存储器用于不经常访问的(例如，冷数据)对象时，期望malloc返回较低层中的存储器。malloc函数调用之前的函数路径可以指示malloc函数调用的目的。另外，malloc函数调用之前的路径表示在程序中访问被分配的存储器的有多频繁。因此，malloc函数调用之前的函数的路径可以与温度(例如，频率的度量)相关联，该温度指示可能由程序生成对使用路径分配的程序的存储器的访问。