[发明专利]一种卷积神经网络运算系统、方法及设备

说明书

本发明公开了一种卷积神经网络运算系统、方法及设备，用以节省卷积神经网络运算的硬件成本，提高运算能力，所述系统包括：模型解码模块，用于将外部传输的卷积神经网络模型资源解码，得到卷积层模型，并将卷积层模型存储于模型存储模块；模型存储模块，用于存储卷积层模型；数据存储模块，用于存储图像数据和运算结果数据，用于基于卷积层模型，将数据存储模块中存储的图像数据进行卷积神经网络运算，并将运算后的运算结果数据存储于数据存储模块。

技术领域

本发明涉及深度学习技术领域，尤其涉及一种卷积神经网络运算系统、方法及设备。

背景技术

卷积神经网络(Convolutional Neural Network,CNN)作为人工神经网络的一种，是一类包含卷积计算且具有深度结构的前馈神经网络，是深度学习的代表算法之一，卷积神经网络具有表征学习能力，能够按其阶层结构对输入信息进行平移不变分类，已成为当前语音分析和图像识别领域的研究热点。

如图1所示，现有技术中，卷积神经网络运算系统10在进行卷积运算前，通常需要把训练好的模型存储到硬件中，在卷积运算时，通过外部设备调取全部模型参数并存储至模型存储模块101，模型运算模块102获取模型存储模块101中的全部模型参数并进行运算，将运算结果存储至数据存储模块103，并将运算结果输入至外部设备。然而常用的卷积模型权重数据如图2所示，通常有几百兆，如图2所示的AleNet、VGG16和Inception-v3网络模型存储资源均超过100兆，因此很难将整个模型存放到小型设备中，必须选用大型的内部存储单元才能完整存储模型，导致卷积运算的硬件成本较高，且由于模型权重数据大，读取全部模型耗时久，影响了运算单元的运算能力。

通过压缩卷积模型是节省硬件资源的新方向，但现有技术中普遍采用整体压缩和整体解压的方式，硬件资源降低并不明显，因此，亟需一种压缩方式，显著降低硬件资源，节省硬件成本。

发明内容

本发明实施例提供了一种卷积神经网络运算系统、方法及设备，用以节省卷积神经网络运算的硬件成本，提高运算能力。

第一方面，本发明实施例提供了一种卷积神经网络运算系统，该系统包括:模型存储模块，数据存储模块，模型运算模块，模型解码模块，其中：

模型解码模块，用于将外部传输的卷积神经网络模型资源解码，得到卷积层模型，并将卷积层模型存储于模型存储模块；

模型存储模块，用于存储卷积层模型；

数据存储模块，用于存储图像数据和运算结果数据，图像数据是输入卷积神经网络运算系统，用于进行卷积神经网络运算的，运算结果数据是模型运算模块运算生成的，且上一次卷积神经网络运算的运算结果作为下一次卷积神经网络运算的图像数据；

模型运算模块，用于基于卷积层模型，将数据存储模块中存储的图像数据进行卷积神经网络运算，并将运算后的运算结果数据存储于数据存储模块。

在一种可能的实施方式中，本发明实施例提供的系统中，模型运算模块包括两个运算单元，每个运算单元中包括卷积运算单元、池化运算单元和标准归一化运算单元。

在一种可能的实施方式中，本发明实施例提供的系统中，数据存储模块包括第一存储器和第二存储器，第一存储器和第二存储器通过轮询的方式依次存储图像数据和运算结果数据。

第二方面，本发明实施例提供一种卷积神经网络运算方法，该方法包括：

获取用于卷积神经网络运算的图像数据和卷积神经网络模型资源；

基于预先设置的运算顺序和卷积神经网络模型资源，依次确定每层用于卷积神经网络运算的卷积层模型；

基于每层卷积层模型对图像数据依次进行卷积神经网络运算，并输出运算结果。