[发明专利]深度学习网络处理方法、装置与编译器

权利要求书

1.一种深度学习网络处理方法，其特征在于，包括：

将深度学习网络拆分为至少一个网络层分组，每个网络层分组均包含多个连续的运算操作；

对于每个网络层分组，根据所述网络层分组中各所述运算操作的输入特征图的尺寸和深度学习处理器的硬件架构对所述网络层分组进行切分，得到所述网络层分组的分片，其中，所述网络层分组的每个分片在所述网络层分组的每个运算操作的输入特征图中具有对应的子特征图，每个分片对应的各子特征图中后一子特征图为前一子特征图对应的运算操作的输出特征图；

对于所述网络层分组的每个分片，将与所述分片相关的各运算操作组合在一起，编译生成目标代码块，所述分片相关的各运算操作包括所述分片对应的所有子特征图所涉及的运算操作。

2.根据权利要求1所述的方法，其特征在于，所述根据所述网络层分组中各所述运算操作的输入特征图的尺寸和深度学习处理器的硬件架构对所述网络层分组进行切分，包括：

根据所述网络层分组中各所述运算操作的输入特征图的尺寸和深度学习处理器的硬件架构，确定所述网络层分组的目标切分方向和目标分片数量，所述目标分片数量为所述网络层分组在所述目标切分方向下待切分的分片数量；

根据所述目标分片数量和所述目标切分方向对所述网络层分组进行切分。

3.根据权利要求2所述的方法，其特征在于，所述根据所述网络层分组中各所述运算操作的输入特征图的尺寸和深度学习处理器的硬件架构，确定所述网络层分组的目标切分方向和目标分片数量，包括：

对于所述网络层分组中的每个运算操作，根据所述运算操作的输入特征图的尺寸和深度学习处理器的硬件架构确定所述运算操作对应的切分方向和分片数量，所述运算操作对应的分片数量为所述运算操作的输入特征图在所述运算操作对应的切分方向下的最小分片数量；

将确定出的各切分方向确定为所述网络层分组的目标切分方向；

对于每个目标切分方向，将所述目标切分方向下数量最多的分片数量确定为所述网络层分组在所述目标切分方向下的目标分片数量。

4.根据权利要求2所述的方法，其特征在于，所述根据所述网络层分组中各所述运算操作的输入特征图的尺寸和深度学习处理器的硬件架构，确定所述网络层分组的目标切分方向和目标分片数量，包括：

根据所述网络层分组中各所述运算操作的输入特征图的尺寸和深度学习处理器的硬件架构确定所述网络层分组的目标切分方向和分片数量范围，所述分片数量范围指示了所述网络层分组的输入特征图在所述目标切分方向下的最小分片数量和最大分片数量；

根据所述分片数量范围确定所述网络层分组的目标分片数量。

5.根据权利要求1所述的方法，其特征在于，所述根据所述网络层分组中各所述运算操作的输入特征图的尺寸和深度学习处理器的硬件架构对所述网络层分组进行切分，包括：

对所述网络层分组的最后一个运算操作的输入特征图进行切分；

所述将与所述分片相关的各运算操作组合在一起，包括：

采用运算操作组合原语将与所述分片相关的各运算操作组合在一起。

6.根据权利要求1-5任一项所述的方法，其特征在于，在所述根据所述网络层分组中各所述运算操作的输入特征图的尺寸和深度学习处理器的硬件架构对所述网络层分组进行切分之后，所述对于所述网络层分组的每个分片，将与所述分片相关的各运算操作组合在一起之前，所述方法还包括：

确定所述网络层分组的分片的遍历顺序；

所述对于所述网络层分组的每个分片，将与所述分片相关的各运算操作组合在一起，包括：

根据所述遍历顺序遍历所述网络层分组的分片，对于遍历到的每个分片，将与所述分片相关的各运算操作组合在一起。

7.根据权利要求6所述的方法，其特征在于，所述将与所述分片相关的各运算操作组合在一起，包括：

根据所述遍历顺序确定所述分片的组合方向；

按照所述组合方向将与所述分片相关的各运算操作按从后往前的顺序依次组合在一起。