[发明专利]用于控制分层存储器系统的方法和装置

说明书

本公开涉及用于控制分层存储器系统的方法和装置。一种用于控制分层存储器系统中的数据组织的方法和设备，其中系统包括较低带宽存储器和较高带宽存储器。计算设备在第一时间间隔中的动作对分层存储器系统的访问被监视以确定第一带宽利用率测量值，从该第一带宽利用率测量值确定动作是否处于高带宽阶段，对于高带宽阶段而言，第一带宽利用率测量值大于上限值。从置信度计数器进一步确定所监视的访问是关于第一指令还是关于访问的存储器地址。当动作处于高带宽阶段并且访问是一致的并且较高带宽存储器的带宽利用率低于阈值时，与访问相关联的数据从较低带宽存储器移动到较高带宽存储器。

技术领域

本公开涉及对数据处理系统的分层存储器系统的控制。

背景技术

数据处理系统可以包括多种类型的计算设备和不同类型的多个存储器资源。例如，系统可以包括具有第一和第二存储器的分层存储器系统，其中第二存储器与第一存储器相比具有更高的带宽和更低的容量。在分层存储器系统中，第二存储器可以位于与计算设备相同的基板上(即，在芯片上)，并且第一存储器可以位于芯片外。替代地，系统可以包括具有低延时存储器(例如缓存)和更高延时、更高容量存储器的分层存储器。这里，带宽是指可以访问数据的速率(每秒字节数)，而延时是指单次访问所花费的时间。

一种改进系统性能的方法是将最近访问的数据移动到具有较低访问延时的存储器，例如缓存，以防再次被访问。然而，这种方法没有充分利用高带宽存储器，因为没有迹象表明将来访问数据的可能速率。

因此，需要优化分层存储器系统中的存储器带宽利用率。

发明内容

根据本公开的一方面，提供一种用于控制分层存储器系统中的数据组织的方法，该方法包括：监视计算设备的动作在第一时间间隔中对分层存储器系统的访问，以提供对分层存储器系统的第一存储器的第一带宽利用率测量值，所述动作归因于计算设备执行第一指令；确定所述动作何时处于高带宽阶段，对于高带宽阶段而言，第一带宽利用率测量值大于上限值；确定所监视的访问中的访问何时与第一指令或该访问的存储器地址一致；以及当所述动作处于高带宽阶段并且访问是一致的时，将与第一存储器的访问相关联的数据写入分层存储器系统的第二存储器，其中，第二存储器的带宽高于第一存储器的带宽。

根据本公开的第二方面，提供一种用于在分层存储器系统中组织数据存储的装置，分层存储器系统包括第一存储器和第二存储器，其中第二存储器具有比第一存储器更高的带宽，并且其中所述装置包括：一个或多个带宽利用率计数器，这一个或多个带宽利用率计数器响应于计算设备对分层存储器系统的访问而更新，其中计算设备根据程序计数器执行指令程序；控制逻辑，该控制逻辑从一个或多个带宽利用率计数器确定计算设备何时处于高带宽阶段；以及置信度计数器表，该置信度计数器表响应于对分层存储器系统的访问而更新，其中该置信度计数表由在分层存储器中访问的地址的函数或计算设备的程序计数器的值的函数或者所访问的地址和程序计数器的值的函数来索引，其中，控制逻辑从置信度计数表识别何时在计算设备处于高带宽阶段时存储在第一存储器中的第一地址处的数据被重复访问，以及其中，控制逻辑使得第一存储器中第一地址处的所识别的数据被写入第二存储器中的第二地址。

根据本公开的第三方面，提供一种集成电路，包括如上所述的装置，并且还包括：所述计算设备；所述第二存储器；所述地址转换器；和对所述第一存储器的接口。

根据本公开的第四方面，提供一种非暂态计算机可读介质，包含描述对如上素数的装置的硬件描述语言的指令。

根据本公开的第五方面，提供一种非暂态计算机可读介质，包含对如上所述的装置的网表描述。

附图说明

图1示出与本公开的某些实施例一致的具有分层存储器系统的数据处理系统。

图2是与本公开的某些实施例一致的用于控制分层存储器系统中的数据组织的方法的流程图。

图3是示出与本公开的某些实施例一致的动作和置信度计数表的视图。