[发明专利]基于Winograd算法和近似乘法器的高效卷积实现方法及装置

说明书

本申请公开了一种基于Winograd算法和近似乘法器的高效卷积实现方法及装置，所述方法包括：将获取的初始特征图分割成多个第一矩阵构成的矩阵序列，每一个第一矩阵包含6行6列的矩阵元素，矩阵序列中相邻矩阵之间具有2行或2列相重叠的矩阵元素；获取每一个第一矩阵对应一个输入矩阵以及初始特征图的初始卷积权重；根据初始卷积权重，计算作为Winograd卷积权重的第二矩阵；将各输入矩阵分别和Winograd卷积权重使用近似乘法器进行运算，得到多个输出矩阵，其中，每一个输入矩阵对应一个输出矩阵；将多个输出矩阵进行拼接，得到输出特征图。采用前述的方案，可大大降低单位卷积输出所需的乘法器的数量，提高卷积计算效率。

技术领域

本申请涉及神经网络技术领域，尤其涉及一种基于Winograd算法和近似乘法器的高效卷积实现方法及装置。

背景技术

卷积神经网络是一类包含卷积计算且具有深度结构的前馈神经网络，是深度学习的代表算法之一。随着深度学习的广泛应用与发展，卷积神经网络被使用的场景越来越多，特别是在图像识别场景中获得了突破性的发展。

卷积神经网络部署于硬件上计算时，对于传统的卷积计算方法，输入一般是一个三维矩阵，分别有长，宽和通道数三个维度，有多个卷积核与输入矩阵进行卷积操作，其中每个卷积核也是三维的，和输入矩阵具有相同通道数。每个卷积核以一定步长在输入矩阵的长宽方向上进行滑动，并将其当前所覆盖的一个三维区域内的卷积核值和对应位置的输入矩阵的值进行乘加累计，最终得到输出矩阵上的一个值。多个卷积核进行这样的操作，并将所有得到的输出进行重叠，得到最终的一个三维的卷积输出。例如图1所示，图1中采用输入为经过预处理后的图片展示了单个卷积核的计算方式，计算每一个输出矩阵中的元素需要通道数×卷积核宽×卷积核高次乘法，图1中需要3×3×3=27次乘法来计算一个输出值，对于单个卷积核的完整计算就需要224×224×27=1354752次乘法，需要硬件提供大量的乘法计算单元即乘法器来处理。

因此，由以上可见，传统的卷积计算方法耗费乘法器数量较多，计算效率往往较为低下。因此，目前亟需一种耗费乘法计算单元较少，高效率的卷积计算方法。

发明内容

本申请提供了一种基于Winograd算法和近似乘法器的高效卷积实现及装置，以解决传统的卷积计算方法耗费乘法器数量较多，计算效率往往较为低下的问题。

第一方面，本申请实施例提供一种基于Winograd算法和近似乘法器的高效卷积实现方法，所述方法用于计算卷积层中卷积核大小为3×3，步长为1的卷积运算，所述方法包括：

获取初始特征图；

将所述初始特征图分割成多个第一矩阵构成的矩阵序列，其中每一个第一矩阵包含6行6列的矩阵元素，矩阵序列中相邻矩阵之间具有2行或2列相重叠的矩阵元素；获取每一个所述第一矩阵对应一个输入矩阵；

获取初始特征图的初始卷积权重；

根据所述初始卷积权重，计算得到包含6行6列矩阵元素的第二矩阵，作为Winograd卷积权重；

将各输入矩阵分别和Winograd卷积权重使用近似乘法器进行运算，得到多个输出矩阵，其中，每一个输入矩阵对应一个输出矩阵；

将多个输出矩阵进行拼接，得到输出特征图。

结合第一方面，在一种实现方式中，所述输入矩阵由第一矩阵、第一常系数矩阵及第一常系数矩阵转置矩阵相乘得到。

结合第一方面，在一种实现方式中，所述Winograd卷积权重由初始卷积权重、第二常系数矩阵及第二常系数矩阵转置矩阵相乘得到。

结合第一方面，在一种实现方式中，所述输出矩阵使用以下公式进行计算：

；