[发明专利]用于嵌套抢占的高速缓存结构

说明书

公开了一种管理高速缓存存储器的操作的系统和方法。所述系统和方法为每个嵌套任务分配级别，以及为在嵌套级别内的每个任务分配实例。使用所述分配的任务级别和实例，所述高速缓存管理模块能够在需要空间时，确定应该从高速缓存驱逐的高速缓存条目，以及在抢占任务完成时，确定应该恢复的驱逐的高速缓存条目。

相关申请的交叉引用

本申请要求享有2016年1月15日提交的、申请序列号为14/997,026、名称为“用于嵌套抢占的缓存结构”的美国非临时专利申请的优先权，通过引用将其全部内容并入本文。

背景技术

计算系统可以使用高速缓存存储器来提高计算性能。例如，对于需要频繁存取的数据，计算系统可以将该数据存储在更小、更快的高速缓存存储器中，而不是将该数据存储在较慢、较大的存储器(例如主存储器单元)中。相应地，计算系统能够更快地存取数据，这可以减少存储器存取的等待时间。

实时和一般的时间共享操作系统通常在调度任务和中断时使用嵌套抢占。例如，当更高优先级的进程准备运行时，固定优先级系统将抢占当前正在运行的进程。发生这种情况时，关于当前正在运行的进程的信息将被保存，直到优先级较高的进程结束运行才会使用该信息。例如，考虑任务X被任务Y抢占，然后任务Y被任务Z抢占的情况。任务Z将首先完成运行，任务Y将恢复。一旦任务Y完成运行，任务X将恢复。抢占的好处是，优先级较高的任务Z可以更快地运行，并在其截止时间之前处理其更紧急的工作。

然而，抢占具有成本。第一个成本是保存任务X的信息并切换到任务Y所需的开销。然后是用以保存任务Y的信息并切换到任务Z再次发生成本。操作系统和硬件已经设计为最小化该成本。第二个成本被称为高速缓存相关的抢占延迟(Cache Related PreemptionDelay，CRPD)。当更高优先级的任务运行时，如果高速缓存存储器内存空间不足，它们将从当前任务中逐出高速缓存条目。这将导致当前任务在继续执行时未命中高速缓存，并且必须等待来自更远的主存储器的数据。

这种成本因典型的最近最少使用(Least Recently Used，LRU)缓存策略而变差。在LRU下，与较早任务关联的数据在与较新近任务关联的数据之前被逐出。因此，在上面的示例中，当任务X带回其需要的数据时，抢占任务X的剩余缓存条目将首先被驱逐以腾出空间存放新数据，即使已完成执行，高优先级任务Y和任务Z的条目也将被保留。研究表明，CRPD的影响可能高达44％。

发明内容

一方面，本技术涉及一种计算设备，其包括：高速缓存存储器，其包括多个高速缓存条目，每个高速缓存条目被分配有所述高速缓存条目的嵌套级别，以及所述嵌套级别的实例标识符ID；处理器，接收嵌套级别为n的新任务并且所述新任务具有实例ID x，级别为n的新任务抢占正在进行的嵌套级别为m的任务，其中m小于n。

在一种实现方式中，本技术还包括高速缓存管理模块，其包括高速缓存替换模块，其中，所述高速缓存替换模块将选择的高速缓存条目替换为用于所述新任务的新的高速缓存条目。

在一种实现方式中，所述选择的高速缓存条目是以下中的一个：(a)所述高速缓存存储器中的具有有效数据的高速缓存条目；(b)所述高速缓存存储器中的所述嵌套级别高于n的高速缓存条目；(c)所述高速缓存存储器中的所述嵌套级别n、并且具有不同于x的所述实例ID的高速缓存条目；(d)所述高速缓存存储器中的所述嵌套级别低于n的高速缓存条目；或者(e)所述高速缓存存储器中的所述嵌套级别n、并且具有所述实例ID x的高速缓存条目。

在一种实现方式中，所述高速缓存替换模块先于(b)-(e)选择(a)作为所述选择的高速缓存条目待被替换；所述高速缓存替换模块先于(c)-(e)选择(b)作为所述选择的高速缓存条目待被替换；所述高速缓存替换模块先于(d)和(e)选择(c)作为所述选择的高速缓存条目待被替换；以及所述高速缓存替换模块先于(e)选择(d)作为所述选择的高速缓存条目待被替换。