[发明专利]使用压缩来增加存储器侧高速缓存的容量的方法和设备

说明书

本发明题为“使用压缩来增加存储器侧高速缓存的容量的方法和设备”。系统、设备以及方法可以提供标识第一块和第二块，其中第一块包括第一多个高速缓存行，第二块包括第二多个高速缓存行，并且第二块驻留于存储器侧高速缓存中。另外，可以将第一多个高速缓存行中的每个高速缓存行与第二多个高速缓存行中的对应的高速缓存行一起压缩，以获得包括第三多个高速缓存行的压缩的块。在一个示例中，如果压缩的块满足大小条件，则在存储器侧高速缓存中以压缩的块替换第二块。

对相关申请的交叉引用

本申请要求对于提交于2016年9月29日的、编号为15/279,647的美国非临时专利申请的优先权的益处。

技术领域

实施例通常涉及存储器结构。

背景技术

计算系统存储器体系结构可以被结构化为各种级别的主机处理器侧高速缓存(例如，一级/Ll高速缓存、2级/L2高速缓存、末级高速缓存/LLC)以及包括存储器侧高速缓存(例如，“近存储器”)和与存储器侧高速缓存相比访问更慢的附加存储器(例如，“远存储器”)的系统存储器。处理器侧高速缓存可以被组织成相对小的(例如，64B)高速缓存行，而存储器侧高速缓存可以被组织成相对大的(例如，1KB或4KB)块，以便降低标签和元数据开销。因此，存储器侧高速缓存中的每个4KB块可以含有例如六十四个64B处理器侧高速缓存行。

当对存储器侧高速缓存中的数据的搜索不成功(例如，高速缓存未命中发生)时，可以在存储器侧高速缓存中选择“牺牲”行，以用于由可以从远存储器取回的所请求的数据替换(例如，驱逐)。存储器侧高速缓存中的频繁未命中由于从相对慢的远存储器取回数据而可能降低性能并且增加功耗。为了降低存储器侧高速缓存中的未命中的可能性，存储器侧高速缓存的每个块可以被压缩来为更多的数据让出空间。然而，特别是当所取回的数据位于主机处理器读取操作的关键路径中时，在逐块的基础上解压缩存储器侧高速缓存可能增加时延和开销。因此，常规的存储器体系结构可能仍然表现出次优的性能和/或功耗。

附图说明

实施例的各种优点将通过阅读以下的说明书和所附权利要求以及通过参考以下的附图而对本领域技术人员变得明显，附图中：

图1是根据实施例的压缩方案的示例的图示；

图2A-2C是根据实施例的使存储器侧高速缓存块成为合伙的方法的示例的流程图；

图3A-3C是根据实施例的使存储器侧高速缓存子块成为合伙的方法的示例的流程图；

图4是根据实施例的计算系统的示例的框图；以及

图5是根据实施例的压缩使能的存储器设备的示例的框图。

具体实施方式

现在转到图1，示出压缩方案，其中，第一块10包括压缩成总高速缓存行大小(例如，64B)的第一部分12的第一高速缓存行、压缩成总高速缓存行大小的第二部分14的第二高速缓存行、压缩成总高速缓存行大小的第n部分16的第n高速缓存行等等。在一个示例中，第一块10可以被称为“填充块”。第一块10通常可以包括响应于在存储器侧高速缓存(例如，近存储器)中遇到的高速缓存未命中而从远存储器取回的数据。因此，所图示的第一块10包括多个高速缓存行，其中，每个高速缓存行的大小可以等于一个或多个处理器侧高速缓存的高速缓存行大小(例如，LLC高速缓存行大小)。