[发明专利]用于基于推测度量将资源分配给线程的方法和装置

说明书

技术领域

这里描述的实施例通常涉及改善处理器中的并行处理。特别地，这里描述的处理器和方法实现分支预测和多线程，其中资源被基于推测度量指定给线程。

背景技术

存在大量提高中央处理单元(CPU)的吞吐量的技术。一种是通过使用超标量体系结构提高指令级别的并行度。这通过允许在每个时钟周期执行来自指令流中的不止一条指令，增加了单个线程的性能。另一种是通过使用可以允许来自不止一个线程的指令并行操作的多核或同步多线程体系结构来提高线程级别的并行度。

随着超标量体系结构宽度的增加(例如，每个时钟周期可执行的指令的数量增加)，对应地，在管线里在同一时间有更多的指令可以影响程序流(例如分支)。此外，大量这些分支是有条件的，在先前的指令沿着管线进一步进展下去之前很难确定地知道这些分支的结果。因此，为了保持增加的吞吐量，使用称为“分支预测”的推测技术来预测分支的结果。通常，超标量处理器越宽，预测的推测性越大。而正确的预测能够显著提高指令吞吐量，不正确的预测指令不仅无助于指令吞吐量，而且它们还束缚了宝贵的资源。为了良好的预测精准度，分支预测硬件的尺寸变大。

尽管有这些缺点，但分支预测和其他推测性技术对于超标量处理器中良好的单线程吞吐量来说很重要。

多线程处理器通常每时钟周期每线程执行较少的指令，但是跨若干线程可以执行多个指令(通常称为同步多线程)。这些可以保持指令的高的总体吞吐量，同时具有较低的推测性的总体级别，因为每个线程并不尝试提前运行，即每个线程在任何一时刻具有较少的进行中的指令。

下面描述的实施例不限于解决已知处理器的任何或者所有缺点的实现。

发明内容

提供这个发明内容来以简化的形式介绍概念的选择，其在下面的具体实施方式中进一步描述。该发明内容并不旨在认定所述要求保护的主题的主要特征或重要特征，也不旨在用来辅助确定所述要求保护的主题的范围。

这里描述的方法、保留站和处理器用于基于与每个线程相关联的指令的推测程度，将资源分配给多个线程。该方法包括在保留站接收每个线程的推测度量。每个推测度量代表与特定线程相关联的指令的推测程度。指令推测性越大，该指令就越有可能被分支预测器不正确地预测。基于推测度量，保留站然后将功能单元资源(例如管线)分配给线程；并基于所述分配，从一个或多个线程选择若干指令。然后将选择的指令发出到功能单元资源。

第一方面提供一种在处理器的多个线程之间分配资源的方法，每个线程与多条指令相关联，该方法包括：在保留站接收多个推测度量，每个推测度量代表与特定线程相关联的指令的推测程度；基于推测度量，在保留站将功能单元资源分配给多个线程；基于功能单元资源的分配，在保留站选择与多个线程相关联的指令；以及在保留站将所选择的指令发出给所述功能单元资源。

第二方面提供了被安排用来在多个线程之间分配资源的保留站，该保留站包括：多个指令队列，每个指令队列被配置用来存储多个线程中的一个的指令；以及与多个指令队列通信的指令调度器，所述的指令调度器被配置用来：接收多个推测度量，每个推测度量代表与特定线程相关联的指令的推测程度；基于所述推测度量，将功能单元资源分配给所述多个线程；基于功能单元资源的所述分配，从所述多个指令队列选择指令；以及将所选择的指令发出给所述功能单元资源以供执行。

第三方面提供了被安排用来计算多个推测度量的推测度量计算器，该度量计算器包括：输入模块，其被被配置用来接收多条指令的信任值，每个信任值代表特定指令被正确预测的可能性；以及与输入模块通信的逻辑单元，该逻辑单元被配置用来基于信任值生成多个推测度量，每个推测度量代表与多个线程中的一个相关联的指令的推测程度。

第四方面提供了被安排用来在多个线程之间分配功能单元资源的处理器，包括：第二方面的保留站；以及与保留站通信的第三方面的推测度量计算器。

第五方面提供一种基本上如参考图1和图2描述的处理器。

第六方面提供一种基本上如参考图4描述的用来将资源分配给多个线程的方法。

这里描述的方法可以由在有形存储介质上的机器可读形式的软件执行，例如计算机程序形式，其包括计算机程序代码模块，当程序运行在计算机上时，适于执行这里所描述的任何方法的所有步骤，并且其中计算机程序可以具体实现在计算机可读介质中。有形的(或非瞬态的)存储介质的示例包括磁盘、拇指驱动、存储器卡等，但不包括传播信号。软件可以适合在并行处理器或串行处理器上执行，这样该方法步骤可以以任何合适的顺序或同时执行。