[发明专利]基于FPGA的深度神经网络加速平台

说明书

本发明公开了一种基于FPGA的深度神经网络加速平台，包括通用处理器、FPGA以及DRAM，首先通用处理器用于解析神经网络配置信息以及权值数据，并将神经网络配置信息以及权值数据写入DRAM中，然后FPGA从DRAM中读取配置信息，用于生成FPGA加速器，接着通用处理器读入图片信息，并把它写入DRAM中，然后FPGA加速器从DRAM中读取图片数据并开始计算，并把计算结果写入DRAM中，最后通用处理器从DRAM中读取分类的结果。本发明加速器使得各层能够同时部署在FPGA芯片上，并以流水线的方式运行，使得不具备硬件知识的编程者可以利用已有的FPGA资源轻松获得良好的性能。

技术领域

本发明涉及一种算法的硬件加速平台，具体涉及一种通用性好和灵活性高的基于FPGA的深度神经网络加速平台其设计方法。

背景技术

神经网络隶属于人工智能领域的连接主义学派，是一种应用类似于大脑神经突触连接的结构进行信息处理的数学模型。20世纪50年代，第一代神经网络——感知机诞生，能够实现线性分类、联想记忆等；20世纪80年代，多层感知机及其训练算法——反向传播算法(back propagation,BP)，因为能够解决线性不可分问题被广泛研究和应用。但是当时较为低下的硬件计算能力和网络训练算法易陷入局部极小等问题，成为制约神经计算方法发展的瓶颈，直到2006年Hinton教授开创的“多层结构、逐层学习”的深度学习方法，才使得神经网络的强大计算能力真正发挥出来，并在大数据的时代背景下成为大数据分析领域的一颗璀璨的明星。这种方法在语音识别、图像识别、自然语言处理等方面，已经取得了突破性的成功，以惊人的速度和结果，不断刷新着这些应用领域内的各种标志性纪录。

深度神经网络由输入层、隐藏层和输出层组成。数据由第一层(输入层)流入，通过逐层(隐层)传递和映射，从最后一层(输出层)流出。通过增加隐藏层的数量，各层以接力的方式进行原始数据的特征学习，本质上是在逼近原始数据与其特征之间非线性极强的映射关系。根据神经网络的一致逼近原理(universal approximation theory)，对于任意一个非线性映射，一定能找到一个浅层网络和一个深度网络以任意精度逼近它，只要浅层网络的隐层神经元个数足够多或者深度网络足够深。但通常，较浅层网络而言，深度网络只需要少得多的参数就可以达到与之相同的逼近效果。

深度神经网络的计算过程主要有训练和预测两部分，但由于其具有计算密集性和数据密集性的特点，当面对大规模数据时，往往存在计算资源需求大、计算时间过长、功耗较大等问题。训练过程采用离线方式即可满足一般应用的需求，而预测则需在线进行，对实时性要求更高，因此加速其预测过程更有实践意义和应用市场。深度神经网络预测过程的高性能实现也已成为学术界和工业界的研究热点之一。

目前用来加速深度神经网络的平台有软件加速平台和硬件加速平台两种。

软件平台主要有云计算平台和图形处理单元(GPGPU)平台。1)云计算平台。一般来说，云计算平台由大量同构的基于通用CPU的单节点服务器组成，多个节点之间互相协同合作。云计算平台有多种编程模型，较为常用的为基于Map-Reduce和基于图计算的编程模型，本质上都是利用任务级并行和数据级并行对应用进行加速。虽然，云计算平台有很强的计算能力，但平台中各个节点的计算效率并没有得到提高，同时集群的运行和维护也增加了功耗和维护开销。同时，云平台的各个节点实际上仍是CPU架构，其通用性导致云计算平台并不能最大化的加速特定的深度神经网络。2)GPGPU。GPGPU由大量并行的计算单元组成，通常采用SIMD的方式利用数据级并行加速应用的执行，对于计算密集型应用来说是一种高效的解方案。目前，GPGPU领域有GLSL、CUDA和OpenGL等成熟的编程技术，开发门槛低，使得GPGPU成为目前较为广泛使用的加速并行平台之一。GPU仅适用于数据级并行的任务，对于深度神经网络计算过程中的非数据级并行部分的加速效果不尽理想。