[发明专利]一种提高卷积运算效率的数据摆放方法

说明书

本发明公开一种提高卷积运算效率的数据摆放方法，包括以下步骤：w方向数据缓存模块从块数据缓存sram中取出特定数量的w方向特征值、h方向特征值和c方向特征值，根据第一预设数目将w方向特征值依次摆放到sram子模块中，根据第二预设数目将h方向特征值依次摆放到sram子模块中，根据第三预设数目将c方向特征值依次摆放到sram子模块中，通过迭代展开为一维数据保存在n个sram子模块中；将sram子模块中的一维数据发送到fifo缓存模块；将一维数据从fifo缓存模块发送到数据拼凑模块，根据filter窗口的尺寸对一维数据进行对应的重排序。本发明的有益效果是：通过多级缓存加速并重排序需要取进的数据，将数据输入划成更细的输入块，提高卷积的运算效率。

技术领域

本发明涉及神经网络加速芯片卷积技术领域，尤其涉及一种提高卷积运算效率的数据摆放方法。

背景技术

随着人工智能的快速发展，人们对人工智能加速芯片的运算速度的要求也越来越高。而人工智能加速芯片中普遍采用的是神经网络结构，而卷积神经网络又是其核心的一种神经网络类型。在卷积神经网络的实现中，卷积的运算时间占了很大的一部分，所以如何提高卷积的运算效率，成为了提高神经网络加速芯片运算速度的关键。目前也有很多提高卷积运算效率的方法，但从卷积的数据输入的摆放角度还没有更好的方法。

发明内容

针对上述问题，本发明提出一种提高卷积运算效率的数据摆放方法，旨在改进数据摆放方法，以提高卷积运算效率。

为解决上述技术问题，本发明的技术方案如下：

一种提高卷积运算效率的数据摆放方法，包括以下步骤：

w方向数据缓存模块从块数据缓存sram中取出特定数量的w方向特征值、h方向特征值和c方向特征值，根据第一预设数目将所述w方向特征值依次摆放到sram子模块中，根据第二预设数目将所述h方向特征值依次摆放到sram子模块中，根据第三预设数目将所述c方向特征值依次摆放到sram子模块中，通过迭代展开为一维数据保存在n个sram子模块中；

将sram子模块中的一维数据发送到fifo缓存模块；

将一维数据从fifo缓存模块发送到数据拼凑模块，根据filter窗口的尺寸对所述一维数据进行对应的重排序；

其中，w为输入宽度，h为输入高度，c为通道数量，kw为卷积核的宽度，kh为卷积核的高度，sh为卷积核高度方向的步长，sw为卷积核宽度方向的步长。

在一些实施方式中，所述特定数量根据所述摆放的处理速度、kw、kh、c、sw和sh的支持范围，以及平均每个周期要求完成的卷积核乘累加运算组数的最低要求共同决定。

在一些实施方式中，所述第一预设数目、所述第二预设数目和所述第三预设数目在迭代过程数目变化或不变化。

在一些实施方式中，所述sram子模块和所述fifo缓存模块的数量一致。

在一些实施方式中，filter窗口的尺寸包括kw、kh和sh，且定义sw＝1。

在一些实施方式中，所述重排序具体为：所述一维数据根据filter窗口的尺寸排序，分为c＝1、c＝4、c＝8和c＝16*n四类，当c＝1，根据kw方向的特征值的不同数目，从每个所述fifo缓存模块中取出对应数目a的特征值，以拼凑出最大m个pixel特征值为限，且拼凑kw方向相邻的特征值；当c＝4，根据kw方向的特征值的不同数目，从每个所述fifo缓存模块中取出对应数目a1的特征值，a1为c的倍数，以拼凑出最大m个pixel特征值为限，且拼凑kw方向相邻的特征值，当kw＝3，取出对应的数目a2，a2＝(m/3)取整数；当c＝8或c＝16*n，根据kw方向的特征值的不同数目，从每个所述fifo缓存模块中取出对应数目a3或a4的特征值，拼凑出最大m个pixel特征值，且拼凑kw方向相邻的两个特征值。