[发明专利]一种神经网络的池化层加速运算的电路

说明书

本发明属于集成电路设计技术领域，具体为一种神经网络的池化层加速运算的方法与电路。本发明是将二维的池化运算分解为两次一维池化运算：宽度方向一维池化运算与高度方向一维池化运算；电路结构包括五部分：用于图层分割与数据读取的图层分割模块、用于进行宽度方向的池化运算的横向池化运算模块、用于进行高度方向的池化运算的纵向池化运算模块以及负责数据回写的输出控制模块。本发明相比传统方法减少了运算量；该电路中所有的模块均是对数据流进行处理，因此不需要过多的片上缓存来存储临时结果，节省了芯片面积。同时，电路使用脉动阵列结构，使每个时钟周期所有的硬件单元都处于工作状态，提高了硬件单元使用率，从而提高了电路的工作效率。

技术领域

本发明属于集成电路设计技术领域，具体涉及神经网络的池化层加速运算的方法与电路。

背景技术

上世纪60年代，Hubel等人通过对猫视觉皮层细胞的研究，提出了感受野这个概念，到80年代，Fukushima在感受野概念的基础之上提出了神经认知机的概念，可以看作是卷积神经网络的第一个实现网络，神经认知机将一个视觉模式分解成许多子模式（特征），然后进入分层递阶式相连的特征平面进行处理，它试图将视觉系统模型化，使其能够在即使物体有位移或轻微变形的时候，也能完成识别。

卷积神经网络是多层感知机的变种。由生物学家休博尔和维瑟尔在早期关于猫视觉皮层的研究发展而来。视觉皮层的细胞存在一个复杂的构造。这些细胞对视觉输入空间的子区域非常敏感，我们称之为感受野，以这种方式平铺覆盖到整个视野区域。这些细胞可以分为两种基本类型，简单细胞和复杂细胞。简单细胞最大程度响应来自感受野范围内的边缘刺激模式。复杂细胞有更大的接受域，它对来自确切位置的刺激具有局部不变性。卷积神经网络结构包括：卷积层，池化层，全连接层。每一层有多个特征图，每个特征图通过一种卷积滤波器提取输入的一种特征，每个特征图有多个神经元。

卷积神经网络由于其巨大的计算量，因此如何在移动终端上进行本地运算也成了一项挑战，神经网络加速芯片的设计成了热点。

本发明提出了一种高效率的加速池化运算的电路结构。本发明通过将二维的池化运算分解为两次一维池化运算（宽度方向与高度方向），规避了传统算法需要片上缓存、控制电路复杂以及存在冗余运算的问题。从而提高了硬件的复用效率，减少芯片面积，这也意味着电路在单位面积下可以获得更高的运算吞吐率。

发明内容

本发明的目的在于针对神经网络计算量大的问题，提供提出一种高效率的加速池化层运算的方法与电路，以提高硬件复用效率，减少芯片面积。

本发明提供的针对神经网络的池化层加速运算的方法，是将二维的池化运算分解为两次一维池化运算，即宽度方向一维池化运算与高度方向一维池化运算。这样可规避传统算法需要片上缓存、控制电路复杂以及存在冗余运算的问题。

设输入特征图层的高为H，宽度为W；池化算子的高为K_H，宽K_W；池化运算高度方向的步幅为S_H, 宽度方向的步幅为S_W。因此，输出特征图层的高为floor((H-K_H)/S_H)+1，宽为floor((W-K_W)/S_W)+1，分别记作H_out与W_out。其中floor()表示向下的取整运算。

通常的池化运算流程的伪代码如下所示：

for i = 0 : H_out-1

for j = 0 : W_out-1