[发明专利]替选循环限制

权利要求书

1.一种由硬件计算系统执行的用于存取N维张量并且包括确定所述N维张量的张量元素的存储器地址的方法，其中，所述硬件计算系统包括：

控制器，和

用于执行从所述控制器接收的指令的多个计算瓦片，其中每个计算瓦片包括处理单元、数据存储介质和张量遍历单元，并且所述张量遍历单元包括多个数学单元，所述数学单元能够并行操作以确定所述存储器地址，所述方法包括：

使用所述计算瓦片中的一个来遍历张量的特定维度，包括确定所述N维张量的所述特定维度的张量元素的数目不是所述多个数学单元的数目的精确倍数，并且作为响应：

对第一嵌套循环的总迭代数目的一个或多个第一迭代中的每个迭代，操作所述多个数学单元以并行执行嵌套在所述第一嵌套循环内的第二嵌套循环的迭代直到用于所述第二嵌套循环的第一循环边界为止，所述第二嵌套循环中的每个迭代确定对应的张量元素存储器地址，并且其中，响应于所述第二嵌套循环在所述第一嵌套循环的所述总迭代数目上具有超过所述计算瓦片的所述多个数学单元的数目的总迭代数目，用于第一嵌套循环的所述一个或多个第一迭代的所述第二嵌套循环的迭代的数目受到所述第一循环边界限制；以及

在所述第一嵌套循环的倒数第二迭代已经完成之后，并行操作所述数学单元以对所述第一嵌套循环的最后一个迭代执行所述第二嵌套循环的一个或多个迭代来确定对应的张量元素存储器地址，直到达到替选循环边界为止，其中，所述替选循环边界小于所述第一循环边界。

2.如权利要求1所述的方法，进一步包括：针对所述第二嵌套循环，响应于确定所述第一嵌套循环的所述倒数第二迭代已经完成，用用于所述第一循环边界的所述替选边界代替用于所述第一嵌套循环的最后一个迭代。

3.如权利要求1所述的方法，其中，所述替选循环边界是由将所述第二嵌套循环的所述总迭代数目除以所述多个数学单元的数目而得到的余数值。

4.如权利要求1所述的方法，其中，包括所述第一嵌套循环和所述第二嵌套循环的嵌套循环集合包括嵌套在所述第一嵌套循环和所述第二嵌套循环之间的一个或多个循环，并且所述第二嵌套循环被嵌套在另一个循环内。

5.如权利要求1所述的方法，其中，在所述第一嵌套循环和所述第二嵌套循环之间不嵌套任何其他循环的情况下，所述第二嵌套循环直接被嵌套在所述第一嵌套循环内。

6.一种用于存取N维张量的硬件计算系统，所述硬件计算系统包括：

控制器，和

用于执行从所述控制器接收的指令的多个计算瓦片，其中每个计算瓦片包括处理单元、数据存储介质和张量遍历单元，并且所述张量遍历单元包括多个单个数学单元，所述多个单个数学单元能够并行操作以确定所述N维张量的张量元素的存储器地址，其中每个处理单元被配置为通过以下操作使得其相应计算瓦片遍历所述张量的特定维度：

对第一嵌套循环的总迭代数目的一个或多个第一迭代中的每个迭代，操作所述多个数学单元以并行执行嵌套在所述第一嵌套循环内的第二嵌套循环的迭代直到用于所述第二嵌套循环的第一循环边界为止，所述第二嵌套循环中的每个迭代确定对应的张量元素存储器地址，并且其中，响应于所述第二嵌套循环在所述第一嵌套循环的所述总迭代数目上具有超过所述多个数学单元的数目的总迭代数目，用于所述第一嵌套循环的所述一个或多个第一迭代的所述第二嵌套循环的迭代的数目受到所述第一循环边界限制；以及

在所述第一嵌套循环的倒数第二迭代已经完成后，并行操作所述数学单元以对所述第一嵌套循环的最后一个迭代执行所述第二嵌套循环的一个或多个迭代来确定对应的张量元素存储器地址，直到达到替选循环边界为止，其中，所述替选循环边界小于所述第一循环边界。

7.如权利要求6所述的系统，其中，所述处理单元被进一步配置为：针对所述第二嵌套循环，响应于确定所述第一嵌套循环的所述倒数第二迭代已经完成，用用于所述第一循环边界的所述替选边界代替用于所述第一嵌套循环的最后一个迭代。

8.如权利要求6所述的系统，其中，所述替选循环边界是基于由将所述第二嵌套循环的总迭代数目除以所述多个数学单元的数目而得到的余数值。