[发明专利]使用关键度信息来路由高速缓存一致性通信

说明书

背景技术

在具有多个处理器和多个高速缓存的多处理器系统中，每个高速缓存 可以存储有在存储器中所存储的一条数据的一个副本。当不止一个高速缓 存包含了同一条数据的副本时，会出现问题。已经开发了各种技术来确保 多个高速缓存间的数据一致性。例如，当一个高速缓存中的数据被修改时， 该数据的其它副本会被标记为无效，以使得它们不再被使用。

为了帮助保持高速缓存一致性，许多系统包括有目录，来帮助确定在 这样的多个高速缓存的各高速缓存行中的数据的存在和状态。高速缓存行 的状态可以表明：该行是否具有在主存储器外唯一的一个有效副本，是否 具有由多个高速缓存所共享的多个有效副本，或者，是否不具有在主存储 器外的副本(即，已经在所有高速缓存中使其无效)。

高速缓存一致性的效率可以提高通用处理器的整体性能。对于众核处 理器(many-core processor)和大规模高速缓存一致的非均匀存储器架构 (cc-NUMA)系统来说尤其如此。不同的系统可以具有许多不同的高速缓存 一致性消息类型，由于因目录迂回所导致的跳失衡根(hop imbalance root)， 这些消息类型中的每一个会具有不同的定时关键度属性。然而，现有的系 统并不能针对这些不同的消息类型来进行不同地处理。

附图说明

图1是根据本发明的一个实施例的系统的一部分的方框图。

图2是根据本发明的一个实施例的互连路由器的方框图。

图3是根据本发明的一个实施例的方法的流程图。

图4是根据本发明的一个实施例的系统的方框图。

具体实施方式

在各个实施例中，互连路由器或其它系统部件可以被配置为是知晓关 键度的。也就是说，以可能会减慢非关键消息为代价，使关键的一致性消 息的路由器延迟变得更短。可以在运行时基于高速缓存一致性消息类型由 硬件来提取关键度。随后，利用该关键度来驱动对在其上传送消息的互连 (例如，点对点(PTP)的虚拟通道或其它互连方案)进行管理。实施例既可适 用于片上网络，也可适用于传统的独立路由器。实施例可以在微架构硬件 中实现，并且可以对软件完全透明。使用这样的实施例，可以显著增强高 速缓存一致性处理。

现在参考图1，其示出了系统的一部分的方框图，该系统包含实现了 给定高速缓存一致性协议的目录。该高速缓存一致性协议可以是按照修改、 独占、共享、无效(MESI)或修改、独占、共享、无效、转发(MESIF)协议 或另一个这样的协议，但本发明的范围并不限制于此。在图1示出的实施 例中，仅仅示出了多个核心中的两个核心20_a和20_b(通称为核心20)，其中 的每个核心耦合到对应的私有高速缓存30_a和30_b(通称为私有高速缓存 30)。在一些实施例中，私有高速缓存30可以是最低级别的高速缓存，例 如，与其相应核心紧密关联的零级高速缓存。

高速缓存30又可以耦合到共享存储器40。在各个实施例中，共享存 储器40可以是包含式共享高速缓冲存储器或系统主存储器。以此方式，共 享存储器40包括了在高速缓存30中存在的所有数据，以及可能的额外数 据。换句话说，在高速缓存30中存在的数据可以包含在存储器40的数据 中，但反之并不成立。另外，共享存储器40可以包括目录。这样的目录可 以是单独的数组(array)或存储器40的其它部分，其包括多个条目(以及相 关的控制逻辑)，以表明在较低级别高速缓存中相应高速缓存行的位置、以 及这样的高速缓存行的状态。因此，存储器40的目录可以用于实现给定的 高速缓存一致性协议。

在一种实现中，系统10可以是片上网络(NoC)。这样的NoC可以是单 芯片集成电路，其连接各种处理代理(agent)(例如核心、专用处理器、加速 器等)、以及本地存储器和其它这样的结构。可以用给定的互连结构，例如 图1中示出的互连50，来耦合所有这些各种的代理。在不同的实现中，可 以用PTP链路的方式对特定的代理进行互连，所述PTP链路通过互连的中 间路由器将各设备耦合到一起。因此，尽管在图1中为了容易说明而并未 示出，但是可以理解，互连50可以代表互连链路以及互连路由器。