[发明专利]用于调整预取流的程度的自适应机制

说明书

提供一种用于调整预取流的程度的自适应机制。根据一个总的方面，一种方法可包括：监视与数据流相关联的多个预取高速缓存请求。所述方法还可包括：评估预取高速缓存请求的准确性。所述方法还可包括：至少部分基于预取高速缓存请求的准确性，调整比数据流的对数据的当前实际需求多且可允许被预取的数据的最大量。

本申请要求于2014年7月17日提交第62/026,004号以及2015年6月3日提交的第14/730,217号美国临时专利申请的优先权。此在先申请的主题通过应用合并于此。

技术领域

本申请涉及存储数据，更具体地讲，涉及高速缓存管理。

背景技术

通常，计算机和由计算机执行的程序对无限量的快速存储器具有贪婪的需求。不幸地是，存储器(特别是快速存储器)通常在成本和芯片面积(die area)方面昂贵。对无限快速存储器的期望的传统解决方案是存储器层次结构，或者存储器层叠或层次系统。通常，分层存储器系统包括多级存储器，每一级比前一层慢但比前一层大。

典型的计算机存储器层次结构可包括三级。最快且最小的存储器(通常被称为“级别1(L1)高速缓存”)最靠近处理器，并包括静态随机存取存储器(RAM和SRAM)。下一层或级通常被称为级别2(L2)高速缓存，并且比L1高速缓存大但比L1高速缓存慢。第三级是主存储器，并且一般包括通常被插入到存储器模块中的动态RAM(DRAM)。然而，其它系统可具有更多或更少的存储器层。此外，在一些系统中，处理器寄存器和永久或半永久存储装置(例如，硬盘驱动器、固态驱动器等)可被认为是存储器系统的一部分。

存储器系统通常利用包容原则，其中，最慢但最大的层(例如，主存储器等)包括所有的可用数据。第二层(例如，L2高速缓存等)包括所述可用数据的子集，下一层(例如，L1高速缓存等)包括第二层的数据子集的第二子集。结果，包括在更快层中的所有数据也被更慢层所包括。

通常，高速缓存基于位置原则(例如，时间位置、空间位置等)决定什么样子集的数据被包括。假设，程序将希望访问它最近已访问的数据或作为它最近已访问的数据的下一个数据的数据。例如，如果电影播放程序正在访问数据，则很可能电影播放器将要访问电影接下来的几秒等等。

然而，程序偶尔会请求在最快高速缓存(例如，L1高速缓存等)中不可用的一条数据。这通常被称为“高速缓存未命中”，并且使最快高速缓存向下一存储器层(例如，L2高速缓存)请求所述数据。由于在确定发生高速缓存未命中、由L1高速缓存搜索数据以及将其提供给处理器的过程中发生了延迟，因此对于存储器性能来说这是昂贵的。偶尔，下一存储器层(例如，L2高速缓存等)也不包括请求的数据，并且必须向下一层(例如，主存储器等)请求所述数据。这通常造成更多的延迟。

发明内容

根据一个总的方面，一种方法可包括：监视与数据流相关联的多个预取高速缓存请求。所述方法还可包括：评估所述多个预取高速缓存请求的准确性。所述方法还可包括：至少部分基于所述准确性，调整比所述数据流对数据的当前实际需求多且可允许被预取的数据的最大量。

根据另一总的方面，一种设备可包括预取确认器和存储器。预取确认器可被配置为：监视与数据流相关联的多个预取高速缓存请求，评估所述多个预取高速缓存请求的准确性，至少部分基于所述准确性，调整比所述数据流的对数据的当前实际需求多且可允许被预取的数据的最大量。存储器可被配置为：存储第一数据结构，其中，第一数据结构指示所述多个预取高速缓存请求的准确性；存储第二数据结构，其中，第二数据结构指示比所述数据流对数据的当前实际需求多且允许被预取的数据的最大量。