[发明专利]一种神经网络加速方法、装置、设备及存储介质

权利要求书

1.一种神经网络加速方法，其特征在于，应用于电子设备，所述方法包括：

确定神经网络结构的第一卷积核；其中，所述第一卷积核中各个输入通道的非零权重数据的个数相同；

将所述第一卷积核中各个输入通道的非零权重数据进行集中存储，得到所述神经网络结构的第二卷积核；

利用所述第二卷积核与特征图像进行卷积操作，得到目标卷积结果。

2.根据权利要求1所述的方法，其特征在于，所述确定神经网络结构的第一卷积核，包括：

获取所述神经网络结构的初始卷积核；

对所述初始卷积核中各个输入通道进行剪枝操作，得到所述神经网络结构的第一卷积核。

3.根据权利要求1所述的方法，其特征在于，在将所述第一卷积核中各个输入通道的非零权重数据进行集中存储时，所述方法还包括：

确定各个输入通道的非零权重数据对应的位置索引值；

将所述位置索引值对应存储在各个输入通道的预设存储区；其中，所述位置索引值用于指示所述非零权重数据在各个输入通道中的位置。

4.根据权利要求3所述的方法，其特征在于，所述利用所述第二卷积核与特征图像进行卷积操作，得到目标卷积结果，包括：

基于所述第二卷积核中各个输入通道的非零权重数据，从所述各个输入通道的预设存储区中分别读取各个输入通道的位置索引值；

基于所述特征图像，获取各个输入通道的位置索引值对应的特征数据；

将所述非零权重数据和所述特征数据进行乘法计算，得到乘法结果，并将得到的所有所述乘法结果进行累加计算，得到所述目标卷积结果。

5.根据权利要求1所述的方法，其特征在于，所述电子设备包括计算阵列，所述计算阵列由m×n个处理单元PE组成，m和n为大于零的整数；其中，每一个PE包括若干条累加树，所述累加树用于将所接收到的非零权重数据和对应的特征数据进行乘法计算，并将所述累加树内部得到的所有乘法结果进行累加计算。

6.根据权利要求5所述的方法，其特征在于，所述利用所述第二卷积核与特征图像进行卷积操作，得到目标卷积结果，包括：

设置若干个滑动窗口；其中，每一个滑动窗口对应一个累加树，每一个累加树包括有C个乘法单元，C表示所述第一卷积核的输入通道个数；

基于所述若干个滑动窗口，计算第i个时钟周期对应的第i计算结果；

当i等于目标时钟周期值时，根据所述目标时钟周期值对应的目标计算结果确定所述目标卷积结果；其中，i为大于0的整数。

7.根据权利要求6所述的方法，其特征在于，在所述确定神经网络结构的第一卷积核之后，所述方法还包括：

确定所述第一卷积核中每一个输入通道的非零权重数据个数；

根据所述非零权重数据个数，确定所述目标时钟周期值。

8.根据权利要求6所述的方法，其特征在于，当i等于1时，所述基于所述若干个滑动窗口，计算第i个时钟周期对应的第i计算结果，包括：

在第一个时钟周期，确定每一个滑动窗口在各个输入通道上的第一个特征数据；利用每一个滑动窗口对应的累加树，通过所述C个乘法单元将各个输入通道上的第一个特征数据与所述第二卷积核中各个输入通道对应的第一个非零权重数据进行乘法计算，并通过所述累加树将所述C个乘法单元对应的乘法结果进行累加计算，得到第一计算结果。

9.根据权利要求8所述的方法，其特征在于，当i大于1时，所述基于所述若干个滑动窗口，计算第i个时钟周期对应的第i计算结果，包括：

在第i个时钟周期，确定每一个滑动窗口在各个输入通道上的第i个特征数据；利用每一个滑动窗口对应的累加树，通过所述C个乘法单元将各个输入通道上的第i个特征数据与所述第二卷积核中各个输入通道对应的第i个非零权重数据进行乘法计算，并通过所述累加树将所述C个乘法单元对应的乘法结果与前一次得到的第i-1计算结果进行累加计算，得到第i计算结果。