[发明专利]卷积神经网络加速方法及相关设备

说明书

本申请实施例公开了一种卷积神经网络加速装置，用于通过将大量的乘法运算转化为加法运算，从而提高卷积神经网络的运算速度。本申请实施例还提供了相应的方法和滤波器。本申请实施例方法包括：该装置包括滤波器和存储器，该滤波器用于从特征图中获取第一行数据，并将该第一行数据存储于该存储器，该存储器存储一行宽度的该第一行数据；该滤波器还用于对该第一行数据进行维诺格拉德变换，得到第一计算结果；该滤波器还用于将至少两个第二计算结果相加，得到卷积结果，其中，该第二计算结果为对第二行数据进行维诺格拉德变换获得，该第一行数据和该第二行数据归属于同一特征图，且宽度均为一行。

技术领域

本申请涉及数据处理领域，尤其涉及一种卷积神经网络加速方法及相关设备。

背景技术

得益于深度学习的进步以及大数据技术的发展，作为其中的核心算法卷积神经网络(convolutional neural network，CNN)广泛被应用到图片分类、人脸识别、图像语义理解、无人驾驶等诸多应用领域。伴随着海量的矢量计算和频繁的访存操作，传统的中央处理器(central processing unit，CPU)计算平台无法满足CNN在很多应用场合下的低延时需求。现场可编程门阵列(field-programmable gate array，FPGA)平台以其低成本、低延时、高能效、高可靠的特点，为CNN的硬件加速提出了一种全新的尝试。

在FPGA平台上对卷积神经网络进行硬件加速时，通常采用二维滤波器，通过滤波器窗口滑动的方式依次将特征图上包含的数据和滤波器系数进行卷积。比如常见的3*3滤波器窗口，需要提取窗口里的9个数和滤波器中的9个系数做卷积运算。

由于在进行二维卷积运算过程中需要进行大量的乘法运算，而FPGA平台中的乘法器资源有限，因此需要花费较长时间才能利用较少的乘法器完成大量的乘法运算，降低了卷积运算的速度。

发明内容

本申请实施例提供了一种卷积神经网络加速装置，用于通过将大量的乘法运算转化为加法运算，从而提高卷积神经网络的运算速度。本申请实施例还提供了相应的方法和滤波器。

第一方面，本申请实施例提供一种卷积神经网络加速装置，该装置包括滤波器和存储器，

该滤波器用于从特征图中获取第一行数据，并将该第一行数据存储于该存储器，该存储器存储一行宽度的该第一行数据；

该滤波器还用于对该第一行数据进行维诺格拉德变换，得到第一计算结果；

该滤波器还用于将至少两个第二计算结果相加，得到卷积结果，其中，该第二计算结果为对第二行数据进行维诺格拉德变换获得，该第一行数据和该第二行数据归属于同一特征图，且宽度均为一行。

第二方面，本申请实施例提供一种滤波器，该滤波器包括：

获取单元，用于从特征图中获取第一行数据，该第一行数据的宽度为一行；

变换单元，用于对该第一行数据进行维诺格拉德变换，得到第一计算结果；

相加单元，用于将至少两个第二计算结果相加，得到卷积结果，其中，该第二计算结果为对第二行数据进行行维诺格拉德变换获得，该第一行数据和该第二行数据归属于同一特征图，且宽度均为一行。

第三方面，本申请实施例提供一种卷积神经网络加速方法，该方法应用于滤波器，该方法包括：

从特征图中获取第一行数据，该第一行数据的宽度为一行；

对该第一行数据进行维诺格拉德变换，得到第一计算结果；

将至少两个第二计算结果相加，得到卷积结果，其中，该第二计算结果为对第二行数据进行行维诺格拉德变换获得，该第一行数据和该第二行数据归属于同一特征图，且宽度均为一行。