[发明专利]一种面向卷积神经网络加速器的Winograd卷积拆分方法

说明书

本发明公开了一种面向卷积神经网络加速器的Winograd卷积拆分方法，包括以下步骤：1)从卷积神经网路加速器的缓存中读取大小任意的输入和卷积核；2)根据卷积核大小和输入大小判断是否进行卷积拆分，如需进行卷积拆分，则进行下一步；3)根据卷积核大小和步长对卷积核进行拆分，根据输入大小和步长对输入进行拆分；4)根据卷积核大小将拆分后的元素组合并补零，根据输入大小将拆分后的元素组合并补零；5)将每对拆分后的输入和卷积核进行Winograd卷积；6)将每队输入和卷积核的Winograd卷积结果累加；7)将累加结果存储在卷积神经网络加速器的缓存中。本发明使得卷积神经网络加速器采用一种Winograd加速单元就可以支持多种不同形状的卷积。

技术领域

本发明属于卷积神经网络算法领域，具体涉及一种面向卷积神经网络加速器的Winograd卷积拆分方法。

背景技术

卷积神经网络(CNN)正在被广泛应用在物体检测、图像分类等计算机视觉任务中，但是随着网络模型不断发展，识别准确度不断提高，随之带来了巨大的运算量与数据量，因此需要高性能、低功耗的硬件设备，同时必须保证硬件设备的灵活性，以满足多种多样的网络模型。

卷积神经网络加速器广泛用于在移动端和服务器端加速卷积神经网络算法。为了提高其性能，在算法层面上用Winograd算法减少每一次乘法运算引入的硬件乘法器，从而在相同乘法器数量的前提下可以增加加速器的吞吐量。目前采用Winograd算法的卷积神经网络加速器有个严重的问题，由于Winograd算法的运算单元有固定的参数，因此每种运算单元只能加速对应参数的卷积。为了扩展加速器的灵活性，需要设计多种参数的Winograd运算单元，这样增加加速器的资源消耗和功耗。其次，加速器从不同参数的Winograd运算单元中得到不同形状的数据流，是得加速器运算单元的利用率降低，严重降低了加速器的性能。

发明内容

本发明的目的在于针对上述现有技术的不足，提供了一种面向卷积神经网络加速器的Winograd卷积拆分方法，使得卷积神经网络加速器采用一种Winograd加速单元就可以支持多种不同形状的卷积。本发明的重点在于对不同形状的卷积进行拆分并转化为统一数据流。

本发明采用如下技术方案来实现的：

一种面向卷积神经网络加速器的Winograd卷积拆分方法，包括以下步骤：

1)从卷积神经网路加速器的缓存中读取大小任意的输入和卷积核；

2)根据卷积核大小和输入大小判断是否进行卷积拆分，如需进行卷积拆分，则进行下一步；

3)根据卷积核大小和步长对卷积核进行拆分，根据输入大小和步长对输入进行拆分；

4)根据卷积核大小将拆分后的元素组合并补零，根据输入大小将拆分后的元素组合并补零；

5)将每对拆分后的输入和卷积核进行Winograd卷积；

6)将每队输入和卷积核的Winograd卷积结果累加；

7)将累加结果存储在卷积神经网络加速器的缓存中。

本发明进一步的改进在于，步骤2)的具体判断方法如下：

如果卷积核大小小于设定卷积核大小，且输入大小小于设定输入大小，则不进行卷积拆分，直接补零为设定卷积核大小和输入大小；如果卷积核大小大于设定卷积核大小，且输入大小大于设定输入大小，则进行卷积拆分。

本发明进一步的改进在于，步骤3)的具体实现方法如下：

30)将原始卷积核拆分为若干个大小不大于设定卷积核大小的卷积核，拆分出的卷积核中每个元素在横纵两个方向相邻距离为一个卷积步长；

31)将原始输入拆分为若干个大小不大于设定输入大小的输入，拆分出的输入中每个元素在横纵两个方向相邻距离为一个卷积步长。