[发明专利]张量运算方法和装置

权利要求书

1.一种张量运算方法，包括：

接收张量运算指令，所述张量运算指令包括用于描述运算类型的指令类型字段，用于描述源数据的结构的源数据结构描述字段，以及用于描述源数据在存储空间内的存储地址的源数据寻址字段；

解析所述张量运算指令；

根据所述源数据结构描述字段和所述源数据寻址字段，从存储空间取得要执行运算的源数据；以及

对所取得的源数据执行所述指令类型字段定义的运算。

2.如权利要求1所述的张量运算方法，其中，所述张量运算指令还包括用于描述目标数据的结构的目标数据结构描述字段，以及用于描述目标数据在存储空间内的存储地址的目标数据寻址字段，且

其中，所述方法还包括将所述源数据的运算结果作为目标数据，按照所述目标数据结构描述字段定义的数据结构存储到所述目标数据寻址字段定义的存储地址中。

3.如权利要求1所述的张量运算方法，其中，所述运算类型包括：

数据搬移，所述数据搬运包括数据加载、数据存储和数据移动；以及

数据运算，所述数据运算包括加法、乘法、重排序、缩放、卷积和池化。

4.如权利要求2所述的张量运算方法，其中，所述张量运算指令包括一个或多个源数据结构描述字段、与所述一个或多个源数据结构描述字段对应的一个或多个源数据寻址字段、一个或多个目标数据结构描述字段、以及与所述一个或多个目标数据结构描述字段对应的一个或多个目标数据寻址字段。

5.如权利要求4所述的张量运算方法，其中，所述源数据寻址字段和所述目标数据寻址字段中的每个包括表示存储地址的立即数或指示存储有存储地址的寄存器的寄存器号。

6.如权利要求5所述的张量运算方法，其中，所述源数据结构描述字段包括源数据维度、源数据在每个维度上的尺寸、以及源数据类型长度，

其中，所述目标数据结构描述字段包括目标数据维度、目标数据在每个维度上的尺寸、以及目标数据类型长度，且

其中，所述存储地址包括起始地址、维度存储顺序、以及每个维度的存储间隔。

7.如权利要求1所述的张量运算方法，其中，在解析所述张量运算指令之后并且在取得要执行运算的源数据之前，所述张量运算方法还包括：

将解析完成的所述张量运算指令存储在缓存队列中。

8.一种张量运算装置，包括：

撷取单元，用于取得张量运算指令；

解析单元，用于解析所取得的张量运算指令，所述张量运算指令包括用于描述运算类型的指令类型字段，用于描述源数据的结构的源数据结构描述字段，以及用于描述源数据在存储空间内的存储地址的源数据寻址字段；

数据存取单元，用于根据所述源数据结构描述字段和所述源数据寻址字段，从存储空间取得要执行运算的源数据；以及

计算执行单元，用于对所取得的源数据执行所述指令类型字段定义的运算。

9.如权利要求8所述的张量运算装置，其中，所述张量运算指令还包括用于描述目标数据的结构的目标数据结构描述字段，以及用于描述目标数据在存储空间内的存储地址的目标数据寻址字段。

10.如权利要求9所述的张量运算装置，其中，所述数据存取单元还用于将所述源数据的运算结果作为目标数据，按照所述目标数据结构描述字段定义的数据结构存储到所述目标数据寻址字段定义的存储地址中。

11.如权利要求8所述的张量运算装置，进一步包括：

缓存单元，用于将解析后的张量运算指令存储在缓存队列中。

12.一种计算机，包括：

处理器；以及

存储器，在所述存储器中存储有计算机程序指令，所述计算机程序指令在被所述处理器运行时使得所述处理器执行如权利要求1-7中的任一项所述的张量运算方法。

13.一种计算机可读介质，其上存储有计算机程序指令，所述计算机程序指令在被处理器运行时使得所述处理器执行如权利要求1-7中的任一项所述的张量运算方法。