[发明专利]一种实现卷积神经网络前向计算的硬件结构

权利要求书

1.一种实现卷积神经网络前向计算的硬件结构，其特征在于，包括：

数据片外缓存模块，用于将外部输入的各张待处理图片中的参数数据缓存在该模块中，等待被多级流水线加速模块读取出来；

多级流水线加速模块，与所述数据片外缓存模块连接，用于从数据片外缓存模块中读取参数，实现卷积神经网络的核心计算；

参数读取仲裁模块，与所述多级流水线加速模块连接，用于处理多级流水线加速模块中多个读取参数请求，使多级流水线加速模块获取需要的参数；

参数片外缓存模块，与所述参数读取仲裁模块连接，用于存储卷积神经网络前向计算所需要的参数。

2.根据权利要求1所述的实现卷积神经网络前向计算的硬件结构，其特征在于，所述多级流水线加速模块由多级流水线构成，每一级流水线包括：

计算模块，用于实现卷积神经网络每层中的运算；

乒乓缓存结构模块，用于缓存与相邻流水线级之间的数据。

3.根据权利要求2所述的实现卷积神经网络前向计算的硬件结构，其特征在于，所述计算模块，还用于根据卷积神经网络结构中不同层的运算量，给不同的流水线级分配不同数量的硬件资源。

4.根据权利要求2所述的实现卷积神经网络前向计算的硬件结构，其特征在于，所述计算模块，采用三个维度的并行，分别是：多张特征图并行输入、多张特征图并行输出、卷积核中多个像素点并行计算。

5.根据权利要求2所述的实现卷积神经网络前向计算的硬件结构，其特征在于，所述计算模块，采用基于批处理的Batch-based的计算方式，将多张图片作为一个批处理并行同时计算。

6.根据权利要求2所述的实现卷积神经网络前向计算的硬件结构，其特征在于，所述乒乓缓存结构模块，包括两个片上缓存结构单元。

7.根据权利要求1所述的实现卷积神经网络前向计算的硬件结构，其特征在于，所述参数读取仲裁模块，采用轮循机制的仲裁方式，轮循响应从各级流水线加速模块发来的读取参数请求。

8.根据权利要求1所述的实现卷积神经网络前向计算的硬件结构，其特征在于，该硬件结构采用现场可编程门阵列FPGA芯片或专用集成电路ASIC芯片实现。