[发明专利]访问多维张量中的数据

摘要

本申请涉及访问多维张量中的数据。用于处理用来访问N维张量的指令的方法、系统、和装置，所述装置包括多个张量索引元素和多个维度乘子元素，其中，所述维度乘子元素中的每一个维度乘子元素具有对应张量索引元素。所述装置包括一个或多个处理器，所述一个或多个处理器被配置成获得用于访问N维张量的特定元素的指令，其中，所述N维张量具有跨N个维度中的每一个维度布置的多个元素，并且其中，N是等于或大于1的整数；使用所述多个张量索引元素中的一个或多个张量索引元素和所述多个维度乘子元素中的一个或多个维度乘子元素来确定所述特定元素的地址；以及输出指示用于访问所述N维张量的所述特定元素的所确定的地址的数据。

主权项

1.一种用于处理用来访问N维张量的指令的装置，所述装置包括：多个张量索引元素，其中每个张量索引元素包括硬件存储电路，所述硬件存储电路被配置成存储用于遍历所述N维张量的相应维度的相应嵌套循环的索引值，并且其中每个嵌套循环的所述索引值在所述嵌套循环的每次迭代之后被调整；多个维度乘子元素，其中，所述多个维度乘子元素中的每一个维度乘子元素具有对应张量索引元素并且包括硬件存储电路，所述硬件存储电路被配置成存储所述对应张量索引元素的乘子值，其中每个乘子值是所述对应张量索引元素的常数值并且在所述对应张量索引元素的所述嵌套循环的每次迭代中保持恒定；以及一个或多个硬件处理器，所述一个或多个硬件处理器被配置成执行由所述一个或多个硬件处理器可执行的指令集中的一个或多个指令，其中所述一个或多个指令的执行使得所述一个或多个硬件处理器执行包括以下的操作：获得用于访问N维张量的特定元素的指令，其中，所述N维张量具有跨N个维度中的每一个维度布置的多个元素，并且其中，N是等于或大于1的整数；获得由所述多个张量索引元素中的一个或多个张量索引元素中的每个存储的当前索引值；使用由所述多个张量索引元素中的所述一个或多个张量索引元素中的每个存储的所述当前索引值和由与所述一个或多个张量索引元素对应的所述多个维度乘子元素中的一个或多个维度乘子元素存储的乘子值来确定所述特定元素存储在存储器中的存储器地址，所述确定包括：对于所述N维张量中的每一个维度，确定以下的乘积：(i)用于遍历所述维度的所述嵌套循环的所述当前索引值；以及(ii)存储用于遍历所述维度的所述嵌套循环的所述当前索引值的所述对应张量索引元素的所述乘子值；以及基于所述N维张量中的每一个维度的所述乘积的总和来确定所述特定元素的所述存储器地址；以及向处理单元输出指示所确定的存储器地址的数据，所述处理单元被配置成使用所确定的存储器地址访问所述N维张量的所述特定元素。