[发明专利]推测执行和回滚

说明书

技术领域

本发明总地涉及计算任务的执行，并且更具体地涉及指令的推测执行(speculative execution)和回滚（rollback）。

背景技术

传统的管线化处理器已经执行对条件分支指令的推测执行，这是通过预测条件分支的哪一侧将被执行而实现的。当该预测不正确时，指令被回滚，使得可执行条件分支的另一侧。当指令被回滚时，处理管线的管线阶段是空闲的，直到条件分支的另一侧的指令到达那些管线阶段。

因此，本领域所需要的是一种允许处理管线在其他指令的回滚期间继续处理一些指令的用于推测性地发送指令的系统和方法。重要的是，推测执行不应该限于条件分支指令。

发明内容

一种用于推测性地发送指令的系统和方法，其允许处理管线在其他指令的回滚期间继续处理一些指令。调度器电路发送指令以供多线程执行单元执行，假设几个循环后，当指令到达多线程执行单元时，指令之间的这种相关性将被解析，资源将可用，操作数数据将可用并且其他条件将不会阻止指令的执行。当在特定线程组的指令的执行点处存在回滚条件时，不把指令分派到多线程执行单元。然而，由调度器电路发送以供不同线程组执行的且不存在回滚条件的其他指令被多线程执行单元执行。在回滚条件不再存在后，重新发送引发回滚条件的指令。

用于执行推测发送的指令的回滚的本发明的方法的多个实施例包括发送第一线程组的第一指令集和发送第二线程组的第二指令集。在所述第一指令集中的指令的预执行处理期间检测所述第一线程组中的至少一个线程的回滚条件，并且停止发送所述第一线程组的附加指令。丢弃所述第一指令集中已经发送的且尚未执行的进行中（in-flight）指令，并且执行所述第二线程组的所述第二指令集。

本发明的多个实施例包括一种用于执行推测发送的指令的回滚的系统。所述系统包括存储器、调度器单元、分派单元和多个执行单元。存储器被配置成存储第一线程组的第一指令集和第二线程组的第二指令集。调度器单元被配置成：发送第一线程组的第一指令集；发送第二线程组的第二指令集；并且当检测到回滚条件时停止发送所述第一线程组的附加指令。分派单元被配置成：在所述第一指令集中的指令的预执行处理期间检测所述第一线程组中的至少一个线程的回滚条件；并且丢弃所述第一指令集中已经发送的且尚未执行的进行中指令。多个执行单元被配置成执行所述第二线程组的所述第二指令集。

重要的是，指令的推测执行不限于条件分支指令。调度器电路不解码指令，因此不执行预测操作。晚至在执行点处，如果特定线程组的任何指令引发回滚条件，则不执行指令并且针对该指令和已经发送给特定线程组的其他指令执行回滚。

附图说明

因此，可以详细地理解上述列举的本发明的特征，并且可以参考实施例得到对如上面所概括的本发明更具体的描述，其中一些实施例在附图中示出。然而，应该注意的是，附图仅示出了本发明的典型实施例，因此不应被认为是对其范围的限制，因为本发明可以承认其他等效的实施例。

图1是示出了经配置以实现本发明一个或多个方面的计算机系统的框图；

图2是根据本发明一个实施例的用于图1的计算机系统的并行处理子系统的框图；

图3A是根据本发明一个实施例的图2的前端的框图；

图3B是根据本发明一个实施例的在图2的一个并行处理单元内的通用处理集群的框图；

图3C是根据本发明的一个实施例的图3B的流多处理器（SM：streaming multiprocessor）的一部分的框图；

图4A示出了根据本发明的一个实施例的推测指令发送和指令回滚方法；以及

图4B示出了根据本发明的一个实施例的推测指令发送和部分指令回滚方法。

具体实施方式

在下面的描述中，将阐述大量的具体细节以提供对本发明更透彻的理解。然而，对本领域的技术人员显而易见的是本发明可以在没有一个或多个这些具体细节的情况下得以实施。在其他例子中，没有描述公知的特征以避免对本发明造成混淆。

系统概述