[发明专利]一种卷积神经网络的加速方法及卷积神经网络加速器

权利要求书

1.一种卷积神经网络的加速方法，其特征在于，包括：

获取当前卷积层的原始输入特征图数据的总通道数；其中，所述原始输入特征图数据存储于片外存储器；

当所述总通道数小于预设的通道数阈值时，判断所述原始输入特征图数据的尺寸是否大于预设的尺寸阈值；

当判断到所述原始输入特征图数据的尺寸大于预设的尺寸阈值时，对所述原始输入特征图数据进行分块处理，得到若干输入特征图数据；

获取任一所述输入特征图数据的地址信息；

根据所述地址信息，将所述输入特征图数据拼接成一个待填充输入数据，并将所述待填充输入数据的剩余通道进行填充处理，得到一个输入数据；

利用预先读取到的权重数据，对所述输入数据进行乘累加运算，得到卷积计算结果。

2.如权利要求1所述的卷积神经网络的加速方法，其特征在于，所述根据所述地址信息，将所述输入特征图数据拼接成一个待填充输入数据，并将所述待填充输入数据的剩余通道进行填充处理，得到一个输入数据，包括：

根据所述地址信息，从所述片外存储器中读取所述输入特征图数据，并将读取到的输入特征图数据暂存至片上存储器的缓存区；其中，所述输入特征图数据的列数小于所述缓存区的列数；

在将读取到的输入特征图数据暂存至所述缓存区的过程中，获取当前暂存的输入特征图数据位于所述缓存区内的位置；

判断所述位置是否位于预先确定的规定位置，若是，基于卷积核的尺寸和所述当前卷积层的卷积步长对所述缓存区进行滑窗处理；

在进行滑窗处理时，将滑窗内的所有输入特征图数据拼接成一个待填充输入数据，并将所述待填充输入数据的剩余通道进行填充处理，得到一个输入数据。

3.如权利要求2所述的卷积神经网络的加速方法，其特征在于，所述判断所述位置是否位于预先确定的规定位置，若是，基于卷积核的尺寸和所述当前卷积层的卷积步长对所述缓存区进行滑窗处理，包括：

判断所述位置是否位于预先确定的规定位置；

若是，利用预先构建的每一滑窗窗口，分别对所述缓存区内的每一通道的输入特征图数据进行滑窗处理；其中，根据所述卷积核的尺寸确定所述滑窗窗口的尺寸；根据所述当前卷积层的卷积步长确定所述滑窗窗口的滑动步长。

4.如权利要求2所述的卷积神经网络的加速方法，其特征在于，所述根据所述地址信息，从所述片外存储器中读取所述输入特征图数据，并将读取到的输入特征图数据暂存至片上存储器的缓存区，包括；

从所述地址信息开始读取输入特征图数据，当所述输入特征图数据的地址跨越地址边界时，截断超出跨越地址边界的输入特征图数据，继续从截断处开始读取输入特征图数据，直至读取到所述片外存储器内的所有输入特征图数据，将所述输入特征图数据从所述片外存储器暂存至片上存储器的缓存区。

5.如权利要求2所述的卷积神经网络的加速方法，其特征在于，在将读取到的输入特征图数据暂存至所述缓存区的过程中，所述卷积神经网络的加速方法还包括：

判断所述缓存区的存储空间是否被存满，若是，暂停读取输入特征图数据，待所述缓存区的输入特征图数据拼接完成后，继续读取输入特征图数据，并将读取到的输入特征图数据暂存至所述缓存区。

6.如权利要求2所述的卷积神经网络的加速方法，其特征在于，在所述在将读取到的输入特征图数据暂存至所述缓存区的过程中，获取当前暂存的输入特征图数据位于所述缓存区内的位置之后，所述卷积神经网络的加速方法还包括：

判断位于所述位置的这一行的所有输入特征图数据是否拼接成一个待填充输入数据；

若是，将新读取到的输入特征图数据暂存至所述位置的这一行中；

若否，暂停读取输入特征图数据，待所述缓存区的输入特征图数据拼接完成后，继续读取输入特征图数据，并将读取到的输入特征图数据暂存至所述缓存区。

7.如权利要求2所述的卷积神经网络的加速方法，其特征在于，根据所述卷积核的行数确定所述规定位置。