[发明专利]一种面向卷积神经网络加速器的Winograd卷积拆分方法

权利要求书

1.一种面向卷积神经网络加速器的Winograd卷积拆分方法，其特征在于，该方法能够将不同形状的卷积进行拆分并转化为统一数据流，同时支持W＝4，R＝2和W＝4，R＝3的2种Winograd参数，包括以下步骤：

1)从卷积神经网路加速器的缓存中读取大小任意的输入和卷积核；卷积神经网路加速器能够同时支持W＝4，R＝2和W＝4，R＝3的2种Winograd参数，具体实现方法如下：

对于输入和卷积核的转换模块，通过电路资源复用只需要一种转换模块就能够支持W＝4，R＝3或2的任意一种卷积形状；

对于输出转换模块，通过电路资源复用只需要一种转换模块就能够支持W＝4，R＝3或2的任意一种卷积形状；

对于计算点乘的PE阵列，通过卷积拆分将W＝4，R＝3或2的Winograd参数统一转化为4×4的点乘运算，所以PE阵列的设计也简化为统一的16个乘法器；

2)根据卷积核大小和输入大小判断是否进行卷积拆分，如需进行卷积拆分，则进行下一步；具体判断方法如下：

如果卷积核大小小于设定卷积核大小，且输入大小小于设定输入大小，则不进行卷积拆分，直接补零为设定卷积核大小和输入大小；如果卷积核大小大于设定卷积核大小，且输入大小大于设定输入大小，则进行卷积拆分；卷积拆分方法在不同参数下引入的乘法次数如公式(1)所示：其中S为步长，m为输出矩阵大小，r为设定卷积核大小，W为输入矩阵大小；

卷积拆分方法能够同时支持W＝4，r＝2和W＝4，r＝3的Winograd算法参数；

3)根据卷积核大小和步长对卷积核进行拆分，根据输入大小和步长对输入进行拆分；具体实现方法如下：

30)将原始卷积核拆分为若干个大小不大于设定卷积核大小的卷积核，拆分出的卷积核中每个元素在横纵两个方向相邻距离为一个卷积步长；具体实现方法如下：

301)取原始卷积核左上角的元素作为第一个元素；

302)在横纵两个方向以卷积步长为步长取下一个元素，直至取到设定卷积核大小的数目；

303)将所有元素按位置组合为一个新的卷积核，至此第一个卷积核拆分完毕；

304)在左上方向取之前没有取过的元素作为第二个卷积核的第一个元素；

305)按照相同的方法取得剩余元素，直至取到小于或等于设定卷积核大小的数目；

306)重复上述步骤直至拆分出剩余卷积核；

31)将原始输入拆分为若干个大小不大于设定输入大小的输入，拆分出的输入中每个元素在横纵两个方向相邻距离为一个卷积步长；具体实现方法如下：

311)取原始输入左上角的元素作为第一个元素；

312)在横纵两个方向以卷积步长为步长取下一个元素，直至取到设定输入大小的数目；

313)将所有元素按位置组合为一个新的输入，至此第一个输入拆分完毕；

314)在左上方向取之前没有取过的元素作为第二个输入的第一个元素；

315)按照相同的方法取得剩余元素，直至取到小于或等于设定输入大小的数目；

316)重复上述步骤直至拆分出剩余输入；

4)根据卷积核大小将拆分后的元素组合并补零，根据输入大小将拆分后的元素组合并补零；

5)将每对拆分后的输入和卷积核进行Winograd卷积；具体实现方法如下：

对卷积核进行设定卷积核大小的Winograd卷积核转换；

对输入进行设定输入大小的Winograd输入转换；

将转换后的输入和卷积核进行设定卷积核大小和设定输入大小的点乘运算；

将点乘结果进行设定输出大小的Winograd输出转换；

6)将每队输入和卷积核的Winograd卷积结果累加；

7)将累加结果存储在卷积神经网络加速器的缓存中。

2.根据权利要求1所述的一种面向卷积神经网络加速器的Winograd卷积拆分方法，其特征在于，步骤4)的具体实现方法如下：

如果拆分出的卷积核为设定卷积核大小，则不进行补零，如果拆分出的卷积核小于设定卷积核大小，则在左上方补零为设定卷积核大小；

如果拆分出的输入为设定输入大小，则不进行补，如果拆分出的输入小于设定输入大小，则在左上方补零为设定输入大小。