[发明专利]用于具有累加的收缩点积的指令和逻辑

权利要求书

1.一种图形处理单元，包括：

取出单元，用于取出用于执行的指令；

解码单元，用于将所述指令解码成经解码指令，其中，所述经解码指令是用于使所述图形处理单元执行并行点积运算的矩阵指令；以及

收缩点积单元，用于使用多个收缩层来跨一个或多个单指令多数据SIMD通道执行所述经解码指令的，其中，为了执行所述经解码指令，在第一收缩层处计算的点积用于被输出到第二收缩层，其中，每个收缩层包括一组或多组互连的乘法器与加法器，每组乘法器与加法器用于生成点积。

2.如权利要求1所述的图形处理单元，在所述第一收缩层处计算的所述点积用于被加到初始累加器值。

3.如权利要求2所述的图形处理单元，所述经解码指令用于提供所述初始累加器值。

4.如权利要求2所述的图形处理单元，其中，用于被输出到所述第二收缩层的点积用于被输入到所述第二收缩层的累加器作为所述第二收缩层的初始累加器值。

5.如权利要求4所述的图形处理单元，所述收缩点积单元针对每个收缩层还包括至少一个累加器。

6.如权利要求1至5中任一项所述的图形处理单元，其中，所述经解码指令与断言掩码相关联，所述断言掩码用于启用或禁用一个或多个SIMD通道的一个或多个信道。

7.如权利要求6所述的图形处理单元，其中，每个信道与一个或多个四元素向量相关联。

8.如权利要求7所述的图形处理单元，所述经解码指令用于指定收缩深度，所述收缩深度用于指示为了计算所述点积要使用的收缩层数量。

9.如权利要求7所述的图形处理单元，所述经解码指令用于指定执行大小，所述执行大小用于指示为了计算所述点积要使用的SIMD信道数量。

10.一种执行指令以计算通用图形处理单元GPGPU内的一组或多组四元素向量的点积的方法，所述方法包括：

取出并解码用于在所述GPGPU内执行的单条指令，所述单条指令被解码成用于使所述GPGPU执行并行点积运算的经解码矩阵指令；

确定要执行以在矩阵加速器上执行所述经解码矩阵指令的流水线命令的集合；以及

将所述流水线命令的集合调度到所述矩阵加速器的收缩点积流水线，以执行所述经解码矩阵指令。

11.如权利要求10所述的方法，还包括：响应于在所述矩阵加速器上完成所述流水线命令的集合而引退所述经解码矩阵指令。

12.如权利要求10所述的方法，还包括：

取出用于所述经解码矩阵指令的源值和计算深度，其中，所述计算深度指定为了执行所述并行点积运算要使用的所述收缩点积流水线的收缩层数量；

取出用于累加器的初始值；以及

将所述初始值存储到所述收缩点积流水线的收缩层的累加器。

13.如权利要求10所述的方法，其中，要执行以在所述矩阵加速器上执行所述经解码矩阵指令的流水线命令的集合使所述矩阵加速器的所述收缩点积流水线：对写启用掩码求值，以确定被启用的并行处理信道的集合；以及针对每个被启用的并行处理信道，基于源输入元素的按元素相乘来生成积的集合。

14.如权利要求13所述的方法，其中，所述流水线命令的集合还使所述收缩点积流水线计算所述积的集合的和并将所述和加到所述收缩点积流水线的层的累加器中的值，并且其中，所述方法还包括：基于所述经解码矩阵指令的计算深度，将点积输出到所述收缩点积流水线的后续层的累加器或输出到目的地寄存器。

15.一种系统，包括用于执行如权利要求10至14中任一项所述的方法的装置。