[发明专利]访问多维张量中的数据

权利要求书

1.一种用于处理用来访问N维张量的指令的装置，所述装置包括：

多个张量索引元素，其中每个张量索引元素包括硬件存储电路，所述硬件存储电路被配置成存储用于遍历所述N维张量的相应维度的相应嵌套循环的索引值，并且其中每个嵌套循环的所述索引值在所述嵌套循环的每次迭代之后被调整；

多个维度乘子元素，其中，所述多个维度乘子元素中的每一个维度乘子元素具有对应张量索引元素并且包括硬件存储电路，所述硬件存储电路被配置成存储所述对应张量索引元素的乘子值，其中每个乘子值是所述对应张量索引元素的常数值并且在所述对应张量索引元素的所述嵌套循环的每次迭代中保持恒定；以及

一个或多个硬件处理器，所述一个或多个硬件处理器被配置成执行由所述一个或多个硬件处理器可执行的指令集中的一个或多个指令，其中所述一个或多个指令的执行使得所述一个或多个硬件处理器执行包括以下的操作：

获得用于访问N维张量的特定元素的指令，其中，所述N维张量具有跨N个维度中的每一个维度布置的多个元素，并且其中，N是等于或大于1的整数；

获得由所述多个张量索引元素中的一个或多个张量索引元素中的每个存储的当前索引值；

使用由所述多个张量索引元素中的所述一个或多个张量索引元素中的每个存储的所述当前索引值和由与所述一个或多个张量索引元素对应的所述多个维度乘子元素中的一个或多个维度乘子元素存储的乘子值来确定所述特定元素存储在存储器中的存储器地址，所述确定包括：

对于所述N维张量中的每一个维度，确定以下的乘积：(i)用于遍历所述维度的所述嵌套循环的所述当前索引值；以及(ii)存储用于遍历所述维度的所述嵌套循环的所述当前索引值的所述对应张量索引元素的所述乘子值；以及

基于所述N维张量中的每一个维度的所述乘积的总和来确定所述特定元素的所述存储器地址；以及

向处理单元输出指示所确定的存储器地址的数据，所述处理单元被配置成使用所确定的存储器地址访问所述N维张量的所述特定元素。

2.根据权利要求1所述的装置，

其中，所述多个张量索引元素被布置到M组张量索引元素中，M是大于1的正整数，以及

其中，每组张量索引元素被指派给相区别且不同的多维张量。

3.根据权利要求1所述的装置，进一步包括多个张量边界元素，其中，所述多个张量边界元素中的每一个张量边界元素具有在所述多个张量索引元素中的对应张量索引元素。

4.根据权利要求3所述的装置，其中，所获得的指令表示用于处理包括第一循环和第二循环的嵌套循环的指令，所述第二循环是所述第一循环的外循环，其中，所述第一循环使用第一索引变量来迭代，并且其中，所述第二循环使用第二索引变量来迭代。

5.根据权利要求4所述的装置，其中，所述一个或多个硬件处理器进一步被配置成执行包括以下的操作：

将所述多个张量索引元素中所存储的值、所述多个维度乘子元素中所存储的值、以及所述多个张量边界元素中所存储的值设置为初始化值，包括基于所述嵌套循环中的一个或多个循环的上边界值将所述维度乘子值中的至少一个维度乘子值设置为值。

6.根据权利要求4所述的装置，其中，所述一个或多个硬件处理器进一步被配置成执行包括以下的操作：

将由所述多个张量边界元素中的第一张量边界元素所存储的值设置为用于迭代所述第一循环的所述第一索引变量的上边界值；

将由所述多个张量边界元素中的第二张量边界元素所存储的值设置为用于迭代所述第二循环的所述第二索引变量的上边界值；

将由所述多个维度乘子元素中的第一维度乘子元素所存储的第一乘子值设置为预定值；以及

将由所述多个维度乘子元素中的第二维度乘子元素所存储的第二乘子值设置为所述第一索引变量的所述上边界值。