[发明专利]生成指令序列的方法、执行神经网络运算的方法和装置

说明书

公开了一种生成指令序列的方法、执行神经网络运算的方法和装置。其中，生成神经网络的指令序列的方法，包括：获取神经网络各层的属性数据；根据神经网络各层的属性数据，确定至少一个层级组及其拆分参数，所述层级组包括所述神经网络中的至少一个层，所述拆分参数包括至少一个预定维度和每个预定维度将被切分成的预定份数；以及，根据神经网络各层的属性数据、所述至少一个层级组的拆分参数，生成所述神经网络的指令序列。本申请实施例通过将神经网络中各层分组来实现该神经网络中各层的同时拆分计算，在存储器容量有限的情况下，能够在不增加硬件成本的前提下同时提高硬件执行神经网络运算的效率和处理能力。

技术领域

本申请涉及人工智能技术领域，尤其涉及一种应用于神经网络的生成指令序列的方法、执行神经网络运算的方法和装置。

背景技术

神经网络已成功应用于图像处理、自动驾驶等诸多领域。在高速缓冲存储器容量有限的情况下，对于通过神经网络处理高分辨率图像的应用场景，因数据量巨大，硬件执行神经网络运算的效率低下且处理能力不足。

因此，期望提供一种应用于神经网络的新的方法和装置，在存储器容量有限的情况下，能够以不增加硬件成本为前提来同时提高硬件执行神经网络运算的效率和处理能力。

发明内容

本申请的实施例提供了一种应用于神经网络的生成指令序列的方法和装置、执行神经网络运算的方法和装置。

根据本申请的一个方面，提供了一种生成神经网络的指令序列的方法，包括：获取神经网络各层的属性数据；根据神经网络各层的属性数据，确定至少一个层级组及其拆分参数，所述层级组包括所述神经网络中的至少一个层，所述拆分参数包括至少一个预定维度和每个预定维度将被切分成的预定份数；以及根据神经网络各层的属性数据、所述至少一个层级组的拆分参数，生成所述神经网络的指令序列；其中，所述指令序列中包含所述至少一个层级组中各层的运算操作指令，所述运算操作指令中的输出参数指示所述至少一个层级组的输出特征数据，所述至少一个层级组的输出特征数据由所述至少一个层级组的输出特征图在所述至少一个预定维度上划分成所述预定份数而得到。

根据本申请的一个方面，提供了一种电子设备，包括：一个或多个处理器；以及存储器，存储有计算机指令，所述计算机指令在被所述处理器运行时使所述处理器执行上述生成神经网络的指令序列的方法。

根据本申请的一个方面，提供了一种生成神经网络的指令序列的装置，包括：获取单元，配置为获取神经网络各层的属性数据，所述属性数据用于表征神经网络中各层的属性；层级组确定单元，配置为根据神经网络各层的属性数据，确定至少一个层级组及其拆分参数，所述层级组包括所述神经网络中的至少一个层，所述拆分参数包括至少一个预定维度和每个预定维度将被切分成的预定份数；以及生成单元，配置为根据神经网络各层的属性数据、所述至少一个层级组的拆分参数，生成所述神经网络的指令序列；其中，所述指令序列中包含所述至少一个层级组中至少一个层的运算操作指令，所述运算操作指令中的输出参数指示所述至少一个层级组的输出特征数据，所述至少一个层级组的输出特征数据由所述至少一个层级组的输出特征图在所述至少一个预定维度上划分成所述预定份数而得到。

根据本申请的一个方面，提供了一种执行神经网络运算的方法，包括：

从片外存储器读取一个层级组的一输入特征数据，所述层级组包括神经网络中的至少一个层；使用所述输入特征数据，按照层级次序依次执行所述层级组中各层的一次运算操作，以获得所述层级组的一输出特征数据；将所述输出特征数据存储到所述片外存储器中；其中，所述输出特征数据是所述层级组的输出特征图在至少一个预定维度上划分成预定份数而得到的多份输出特征数据中的一份。

根据本申请的一个方面，提供了一种电子设备，包括：控制单元、计算单元和片外存储器，其中，所述控制单元配置为运行指令以根据所述指令来控制所述计算单元和所述片外存储器实现上述执行神经网络运算的方法。