[发明专利]卷积计算方法及相关设备

说明书

本申请公开了一种卷积计算方法及相关设备，方法包括：获取卷积神经网络模型包括的N个网络层中的任意一个网络层A的输入数据，N为大于1的整数；根据网络层与卷积核、卷积步长的映射关系确定网络层A对应的目标卷积核和目标卷积步长；根据目标卷积核和目标卷积步长确定对网络层A的输入数据进行卷积计算所需的M个处理元件组，M个处理元件组中的每个处理元件组包括P1个处理元件，P1个处理元件中的每个处理元件包括至少一个乘法累加单元，M和P1均为大于等于1的整数；并行使用M个处理元件组对网络层A的输入数据进行卷积计算，得到网络层A的输出数据。采用本申请实施例有助于提高神经网络处理器中卷积计算的计算效率。

技术领域

本申请涉及人工智能技术领域，具体涉及一种卷积计算方法及相关设备。

背景技术

神经网络处理器中最常用的一种模型为卷积神经网络模型，然而，卷积神经网络模型在进行卷积运算时，存在着计算效率较低的问题。因此，如何提高神经网络处理器中卷积计算的计算效率，成为当前亟待解决的技术问题。

发明内容

本申请实施例提供一种卷积计算方法及相关设备，用于提高神经网络处理器中卷积计算的计算效率。

第一方面，本申请实施例提供一种卷积计算方法，应用于神经网络处理器，包括：

获取卷积神经网络模型包括的N个网络层中的任意一个网络层A的输入数据，所述N为大于1的整数；

根据网络层与卷积核、卷积步长的映射关系确定所述网络层A对应的目标卷积核和目标卷积步长；

根据所述目标卷积核和所述目标卷积步长确定对所述网络层A的输入数据进行卷积计算所需的M个处理元件组，所述M个处理元件组中的每个处理元件组包括P1个处理元件，所述P1个处理元件中的每个处理元件包括至少一个乘法累加单元，所述M和所述P1均为大于等于1的整数；

并行使用所述M个处理元件组对所述网络层A的输入数据进行卷积计算，得到所述网络层A的输出数据。

在一个可能的示例中，所述根据所述R个第一子输入矩阵中的任意一个第一子输入矩阵B、所述P2和所述Q确定对所述网络层A的第一输入数据进行卷积计算所需的M个处理元件组，包括：

获取第一子输入矩阵B的大小S3×S4，所述第一子输入矩阵B为所述R个第一子输入矩阵中的任意一个；

计算S4/Q，得到商和第三余数；

若所述第三余数为0，则将所述网络层A的第一输入数据包括的第一子输入矩阵的数量确定为M和将所述商确定为P1，所述M是对所述网络层A的第一输入数据进行卷积计算所需的处理元件组的数量，以及确定所述P1个处理元件中的每个处理元件包括Q个乘法累加单元；

若所述第三余数不为0，则将所述网络层A的第一输入数据包括的第一子输入矩阵的数量确定为M和将所述商加1确定为P1，所述M是对所述网络层A的第一输入数据进行卷积计算所需的处理元件组的数量，以及确定所述P1个处理元件中的第1个处理元件至第（P1-1）个处理元件中的每个处理元件包括Q个乘法累加单元和第P1个处理元件包括的乘法累加单元的数量为所述第三余数。

在一个可能的示例中，所述目标卷积核还包括偏置值，所述并行使用所述M个处理元件组对所述网络层A的输入数据进行卷积计算，得到所述网络层A的输出数据，包括：

获取所述第一子输入矩阵B；

根据第一子输入矩阵与子卷积核矩阵的映射关系确定所述第一子输入矩阵B对应的子卷积核矩阵；

使用所述M个处理元件组中的任意一个处理元件组D对所述第一子输入矩阵B和所述第一子输入矩阵B对应的子卷积核矩阵进行卷积计算，得到所述第一子输入矩阵B对应的第一子输出矩阵；