[发明专利]张量寄存器文件

权利要求书

1.一种用于执行张量运算的装置，包括：

多个张量运算计算器，各自被配置为执行多种类型的张量运算中的一种类型的张量运算，所述多个张量运算计算器包括被配置为执行第一类型的所述张量运算的张量运算计算器的多个实例；

多个张量寄存器文件，所述张量寄存器文件中的每个张量寄存器文件与所述多个张量运算计算器之一相关联；以及

逻辑，被配置为根据要对张量执行的张量运算的类型将相应的所述张量存储在所述多个张量寄存器文件中；

其中所述逻辑还被配置为将所述装置要对其执行所述第一类型的张量运算的张量的多个单独副本存储在所述多个张量寄存器文件中与被配置为执行所述第一类型的张量运算的所述张量运算计算器的所述多个实例相关联的专用张量寄存器文件中的每个专用张量寄存器文件中，而排除所述多个张量寄存器文件中的其他张量寄存器文件。

2.根据权利要求1所述的装置，其中为了根据张量运算的所述类型将所述张量中的相应张量存储在所述张量寄存器文件中，所述逻辑进一步被配置为：

确定所述装置要对所述张量中的相应张量执行的张量运算的所述类型；以及

将所述相应张量存储到专用于被配置为执行所述类型的张量运算的张量运算计算器的张量寄存器文件中。

3.根据权利要求2所述的装置，其中为了确定张量运算的所述类型，所述逻辑进一步被配置为：

访问机器指令中的标识符以加载张量，其中所述标识符与所述张量运算的类型相关联。

4.根据权利要求1所述的装置，其中所述逻辑进一步被配置为：

基于当在所述张量运算计算器之一中执行时机器指令要执行的张量运算的类型，来控制对所述多个张量寄存器文件的读取访问。

5.根据权利要求1所述的装置，其中所述张量运算计算器中的第一张量运算计算器被配置为执行张量-张量运算，其中所述逻辑进一步被配置为：

将来自与所述第一张量运算计算器相关联的所述张量寄存器文件的张量作为操作数提供给所述第一张量运算计算器。

6.根据权利要求1所述的装置，其中所述张量运算计算器中的第一张量运算计算器被配置为执行矩阵-矢量运算，其中所述逻辑进一步被配置为：

将来自与所述第一张量运算计算器相关联的所述张量寄存器文件的矩阵作为操作数提供给所述第一张量运算计算器。

7.根据权利要求1所述的装置，其中所述张量运算计算器中的第一张量运算计算器被配置为执行矢量-矢量运算，其中所述逻辑进一步被配置为：

将来自与所述第一张量运算计算器相关联的所述张量寄存器文件的矢量作为操作数提供给所述第一张量运算计算器。

8.根据权利要求1所述的装置，其中所述逻辑进一步被配置为：

将矩阵存储在专用于矩阵-矢量运算计算器的张量寄存器文件中；以及

将矢量存储在专用于矢量-矢量运算计算器的张量寄存器文件中。

9.一种操作张量处理器的方法，所述张量处理器具有：各自被配置为执行一种类型的张量运算的多个张量运算计算器，所述多个张量运算计算器包括被配置为执行第一类型的张量运算的张量运算计算器的多个实例；以及多个张量寄存器文件，所述张量寄存器文件中的每个张量寄存器文件专用于所述多个张量运算计算器之一，所述方法包括：

确定所述张量处理器要对多个张量中的相应张量执行的张量运算的类型；以及

将所述多个张量中的每个相应张量存储在专用于被配置为执行所述类型的张量运算的张量运算计算器的张量寄存器文件中，所述张量处理器要对所述相应张量执行所述类型的张量运算；

其中所述存储包括将所述张量处理器要对其执行所述第一类型的张量运算的张量的多个单独副本存储在所述多个张量寄存器文件中与被配置为执行所述第一类型的张量运算的所述张量运算计算器的所述多个实例相关联的专用张量寄存器文件中的每个专用张量寄存器文件中，而排除所述多个张量寄存器文件中的其他张量寄存器文件。