[发明专利]一种存储系统和方法

说明书

本发明公开了一种存储系统，应用于残差神经网络的推理计算，所述系统包括：存储访问模块、片上存储器和片外存储器，所述存储访问模块和所述片上存储器位于现场可编程门阵列FPGA上；所述存储访问模块用于分别获得残差神经网络中每个隐含层输出的特征图数据，并将获得的所述特征图数据相应发送给片上存储器或片外存储器；所述片上存储器，用于接收所述存储访问模块发送的普通卷积层输出的特征图数据，并进行存储；所述片外存储器，用于接收所述存储访问模块发送的残差层输出的特征图数据，并进行存储。通过本发明的方案，实现了将残差神经网络中隐含层输出的特征图数据相应存储到片外存储器或片上存储器。

技术领域

本发明涉及神经网络领域，尤指一种存储系统和方法。

背景技术

卷积神经网络(Convolutional Neural Networks,CNN)是人工神经网络的一种，广泛应用于图像分类、目标识别、行为识别、语音识别、自然语言处理与文档分类等很多领域。

卷积神经网络CNN的结构一般由输入层、若干隐含层与输出层组成。输入层用于多维输入数据(如彩色图片)，输出层用于输出识别结果，隐含层用于神经网络计算。神经网络计算步骤包括卷积、池化、Batch Norm、全连接计算与激励函数等。其中第一层隐含层的输入为通过输入层输入的多维输入数据，输出为特征图，其他隐含层的输入都为上一层输出的特征图，输出的为本隐含层的特征图。

残差神经网络(Residual Neural Network，ResNet)是一类较为通用且识别率高的卷积神经网络，被广泛用于图像分类，但其网络结构较早期的卷积神经网络网络有较大区别，多分支、残差层及加和操作是残差神经网络特有的网络结构。

现场可编程门阵列(Field Programmable Gate Array，FPGA)，由于可重构、低功耗、可定制、高性能等特点，已经广泛应用于深度学习推理计算领域，特别适合应用于卷积神经网络CNN的推理计算。

传统的基于FPGA的CNN推理计算实现中普遍将作为计算中间结果的隐含层特征图数据存储于片上存储器，受限于相对较小的片上存储空间，仅能实现精简的CNN结构，而残差神经网络等复杂的CNN网络由于存在多分支结构须同时存储多张特征图，须要较大的存储空间，则受限于片上存储空间而难以实现。另外，如果仅由于片上存储空间的限制选择片上存储空间更大的FPGA，将降低设计的性价比。

针对现有技术中所存在的问题，亟需要提供一种基于FPGA的残差神经网络的存储系统，以解决FPGA片上存储器较小的存储空间对残差神经网络中隐含层输出的特征图数据量的限制。

发明内容

为了解决上述技术问题，本发明提供了一种存储系统和方法，存储系统应用于残差神经网络的推理计算，能够实现将残差神经网络的推理计算所得的特征图数据存储到片外存储器或片上存储器中。

为了达到本发明目的，本发明提供了一种存储系统，应用于残差神经网络的推理计算，所述系统包括：存储访问模块、片上存储器和片外存储器，所述存储访问模块和所述片上存储器位于现场可编程门阵列FPGA上；其中，所述存储访问模块，用于分别获得残差神经网络中每个隐含层输出的特征图数据，并将获得的所述特征图数据相应发送给片上存储器或片外存储器，其中，所述隐含层包括：普通卷积层和残差层；其中，所述普通卷积层输出的特征图数据发送给所述片上存储器；所述残差层输出的特征图数据发送给所述片外存储器；

所述片上存储器，用于接收所述存储访问模块发送的普通卷积层输出的特征图数据，并进行存储；

所述片外存储器，用于接收所述存储访问模块发送的残差层输出的特征图数据，并进行存储。

一种示例性的实施例中，所述存储访问模块，还用于计算所述普通卷积层特征图数据对应的第一存储地址，并将所述第一存储地址发送给所述片上存储器；