[发明专利]用于管线间数据危害避免的方法和系统

说明书

本公开涉及用于管线间数据危害避免的方法和系统。管线间数据危害在编译时间被标识。对于每个标识的管线间数据危害，其中主指令和(一个或多个)次指令都被如此标识并且通过用于跟踪管线间数据危害的计数器被链接。然后，当由指令解码器输出主指令用于执行时，与之相关联的计数器的值被调整(例如，增加)以指示存在与主指令相关的危害，并且当主指令已被多个并行处理管线解决时，与之相关联的计数器的值被调整(例如，减少)以指示与主指令相关的危害已被解决。当解码器输出次指令用于执行时，如果与其依赖的主指令相关联的至少一个计数器指示存在与该主要相关的危害，则将次指令停滞在与适当的指令管线相关联的队列中。

技术领域

本公开总体涉及用于管线间数据危害避免的方法和系统。

背景技术

如本领域技术人员所知的，当指令的管线改变对指令操作数的读取和写入访问的顺序以使得顺序不同于将逐个顺序地执行指令而出现的顺序时，在具有指令管线的处理单元中产生数据危害。

存在三类数据危害：先写后读(RAW)危害；先读后写(WAR)危害；以及先写后写(WAW)危害，它们根据在程序中必须由管线保留的顺序而命名。RAW数据危害是最常见的数据危害类型，并且当较早指令写入该源操作数之前较晚指令(相对于程序中的指令顺序)尝试读取源操作数时发生。这会导致较晚指令得到旧的操作数的值。例如，如果有如下一组指令：

R1＝R2+R3

R4＝R1-R5

其中第一指令使得寄存器2(R2)和寄存器3(R3)的值的总和被存储在寄存器1(R1)中，并且第二指令使得寄存器1(R1)的值与寄存器5(R5)之间的差被存储在寄存器4(R4)中，如果第二指令在第一指令写入寄存器1(R1)之前读取寄存器1(R1)，则会发生RAW数据危害。当较晚指令(相对于程序中的指令的顺序)在操作数被较早指令写入之前写入操作数，导致以错误的顺序执行写入，使得操作数具有来自较早指令的值而不是来自较晚指令的值时，则发生WAW数据危害。当较晚指令(相对于程序中的指令的顺序)尝试在操作数被较早指令读取之前写入操作数，导致较早指令读取不正确的值时，则会发生WAR数据危害。

存在许多用于避免由单个指令管线引起的数据危害的已知方法(诸如，转发)，但诸如图形处理单元(GPU)之类的许多处理单元被配置有多个并行指令管线以有效地并行处理大量数据。在这样的并行处理单元中，不仅需要跟踪和消除管线内危害(即，与在相同指令管线中执行的指令相关的危害)，还需要跟踪和消除管线间危害(即，与在不同指令管线中执行的指令相关的危害)。

以下描述的实施例仅作为示例提供，并不限制解决已知GPU或并行处理单元的任何或全部缺点的实现。

发明内容

提供本概述是为了介绍将在以下详细说明中进一步描述的概念的选择。本概述不旨在确定所要求保护的主题的关键特征或基本特征，也不旨在用于限制所要求保护的主题的范围。

本文描述的是用于避免管线间数据危害的方法和并行处理单元，其中管线间数据危害在编译时间被标识。对于每个标识的管线间数据危害，其中主指令和(一个或多个)次指令都是通过用于追踪管线间数据危害的计数器被标识并且链接的。当由指令解码器输出主指令用于执行时，与之相关联的计数器的值被调整(例如，增加)以指示存在与主指令相关的危害，并且当主指令已被多个并行处理管线解决时，与之相关联的计数器的值被调整(例如，减少)以指示与主指令相关的危害已被解决。当解码器输出次指令用于执行时，如果与其依赖的主指令相关联的至少一个计数器指示存在与该主指令相关的危害，则将次指令停滞(stall)在与适当的指令管线相关联的队列中。