[发明专利]一种应用于CNN网络卷积层的高效存算系统及其运算方法

说明书

本发明提出了一种应用于CNN网络卷积层的高效存算系统及其运算方法，该架构包括：用于缓存结果数据的数据缓存模块；用于进行高并行全流水卷积运算，得到卷积运算结果的运算阵列；用于读取数据缓存中的图像源数据并发送给所述运算阵列的源数据分发模块；用于读取数据缓存中的权重数据，并将数据复制重新编组，发送给所述运算阵列的权重共享模块；用于将运算阵列卷积计算结果存入所述数据缓存模块中的结果数据写入模块。本发明提出的高效存算架构基于全流水的并行运算簇设计了运算阵列，并且设计与之匹配的数据缓存和高带宽供数通道，以较低的硬件复杂度，实现了CNN网络密集卷积算法的高性能运算，具有良好的应用前景。

技术领域

本发明涉及人工智能算法领域，尤其涉及CNN网络卷积层中高密集卷积运算的硬件实现方法。

背景技术

神经网络(neual networks)是人工智能研究领域的一部分，当前最流行的神经网络是卷积神经网络(convolutional neural networks, CNN)，基础的CNN由卷积(convolution), 激活(activation), and 池化(pooling)三种结构组成。1998年Lecun提出了经典的Lenet-5网络，用于解决手写数字识别的视觉任务，形成了当代卷积神经网络的雏形。近年来，随着深度学习理论研究的兴起，以及用于训练的异构计算GPU浮点运算性能不断提升，深度卷积神经网络得到了快速发展，涌现出了AlexNet、VGG、GoogleNet、MobileNet等一大批高识别率网络。2015年，何恺明等人提出ResNet（残差神经网络），成功训练了152层深度的卷积神经网络，视觉识别错误率降低至4.94%，低于人眼辨识5.1%的错误率。目前深度卷积神经网络已广泛应用于语音识别，图像识别，图像分割，自然语言处理等领域。

随着神经网络深度的不断加深，通道数（即卷积核个数）也不断增加，卷积运算量爆发式增长，占整个CNN网络80%以上的运算量，给高实时的端侧应用带来的巨大的压力，现有基于冯•诺依曼架构的通用处理器，无法满足神经网络算法高实时推理需求，必须突破专用的高效存算架构技术，提高卷积运算处理性能，以适应深度神经网络端侧高实时应用。

发明内容

发明目的：本发明的目的在于提高CNN网络卷积层实现的性能，达到存储、供数与运算资源的高效匹配。该发明提供了一种应用于CNN网络卷积层的高效存算系统，并进一步提供了基于上述架构的运算方法。基于全流水的并行运算簇设计了运算阵列，并且设计与之匹配的数据缓存和高带宽供数通道，以较低的硬件复杂度，实现了CNN网络密集卷积算法的高性能运算，更好地满足卷积神经网络实际应用的性能需求。

技术方案：一种应用于CNN网络卷积层的高效存算系统，包括如下模块：

数据缓存模块，用于存储CNN图像源数据集，存储权重数据（包括卷积核和偏置），缓存结果数据，提供与外设的读写接口；

运算阵列，根据输入数据和权重数据进行数据的卷积运算，得到卷积运算结果；

源数据分发模块，产生源数据读取地址，读取源数据BANK中的图像源数据，并将源数据发送给运算阵列；

权重共享模块，读取卷积运算所需权重数据（包括卷积核和偏置），并通过1对多驱动器，将数据复制重新编组，发送给运算阵列；

结果数据写入模块，产生结果数据写地址，将运算阵列卷积计算结果存入数据缓存模块。

在进一步的实施例中，所述数据缓存模块进一步包括源数据缓存区、权重缓存区、结果缓存区，所述数据缓存模块提供与外设通信的读写接口；所述源数据缓存区用于存储图像源数据集，所述权重缓存区用于存储权重数据，所述结果缓存区用于缓存结果数据。

在进一步的实施例中，所述运算阵列包括n个相同的运算簇，其中n表示处理图像的并行度；可同时处理n幅图像的卷积运算。