[发明专利]一种神经网络加速系统

说明书

本公开属于专用算法硬件电路设计技术领域，具体而言涉及一种神经网络加速系统包括：信息配置模块；和池化加速单元包括：控制模块，控制模块根据信息配置模块的参数信息得到张量块的信息以及地址信息；输入张量缓存模块，与控制模块相连，根据由控制模块得到的输入张量块地址信息缓存从外部存储模块的输入张量块；过程张量缓存模块，与控制模块相连，根据由控制模块得到的输出张量块地址信息缓存沿宽度方向池化的输出张量块，并提供沿高度方向池化的输入数据；池化器阵列模块，分别与输入张量缓存模块和过程张量缓存模块相连，进行宽度方向的池化和高度方向的池化，并沿通道方向进行并行计算，以缩短池化耗时。

技术领域

本公开属于专用算法硬件电路设计技术领域，具体而言涉及一种神经网络加速系统。

背景技术

在人工智能领域，今年来卷积神经网络得到广泛应用。其基本结构如图结构示意图如图8所示，由输入层、隐藏层和输出层组成，前一层的输出特征数据作为后一层的输入特征，不断相后传递，直至得到网络的最终输出。位于输入层和输出层之间的隐藏层，根据应用场景的不同可以进一步细分为卷积层、池化层和全连接层等线性层，和ReLU、Sigmoid等非线性层(亦称激活层)。

早期的硬件实现方法难以支持较大尺寸的池化窗口，通常需要进行多轮的较小尺寸的池化操作来实现较大尺寸的池化算子，这种实现方式会导致片外存储设备与池化加速单元之间的数据交互量超出原始数据量的若干倍，造成通信带宽紧张。当无法通过小尺寸池化完成时，就需要算法开发人员在保证算法精度的同时修改池化算子参数，给算法人员带来一定压力。

发明内容

本公开正是基于现有技术的上述需求而提出的，本公开要解决的技术问题是提供一种神经网络加速系统以缩短池化运算的耗时。

为了解决上述问题，本公开提供的技术方案包括：

提供了一种神经网络加速系统，包括：信息配置模块，由外部设置信息配置模块的参数信息；外部存储模块；和池化加速单元，分别与信息配置模块和外部存储模块相连，所述池化加速单元包括：控制模块，所述控制模块根据所述信息配置模块的参数信息得到张量块的信息以及地址信息，所述张量块包括输入张量块和输出张量块；输入张量缓存模块，与所述控制模块相连，根据由控制模块得到的输入张量块地址信息缓存从外部存储模块的输入张量块；过程张量缓存模块，与所述控制模块相连，根据由控制模块得到的输出张量块地址信息缓存沿宽度方向池化的输出张量块，并提供沿高度方向池化的输入数据；池化器阵列模块，分别与输入张量缓存模块和过程张量缓存模块相连，进行宽度方向的池化和高度方向的池化，并沿通道方向进行并行计算。

优选的，所述参数信息包括池化层基本信息、输入张量块和输出张量块的相关信息；所述池化层基本信息包括：池化类型、池化窗口高度、池化窗口宽度、池化高度方向步长、池化宽度方向步长、输入数据高度方向边界补零信息和输入数据宽度方向边界补零信息；输入张量块相关信息包括：输入块位置序号、输入张量块高度、输入张量块宽度和输入通道数；输出张量块相关信息包括：输出张量块高度和输出张量块宽度。

优选的，所述外部存储模块的存储方式包括：将沿通道方向拆分成两个维度，分别为低维度的PDI和高维度的T；数据沿通道方向进行存储；当通道方向的数据存储达到PDI边界时，沿宽度方向进行存储；当宽度方向的数据存储达到宽度边界时，沿高度方向进行存储；当高度方向的数据存储达到高度边界时，沿通道方向向高纬度T进行存储。