[发明专利]嵌入式FPGA集群智能计算平台硬件框架

说明书

本发明公开的一种嵌入式FPGA集群智能计算平台硬件框架，旨在提出一种能够灵活调度计算资源，应用模型更换方便的硬件框架。本发明通过下述技术方案予以实现：运行系统框架软件的主节点通过簇控制类总线将簇节点信息管理包、算法模型包、配置参数和簇节点状态回传包下发到各个簇节点；接收并解析各簇节点信息管理包、算法模型包和配置参数包。控制类处理器将应用算法模型部署到簇节点，并通过应用算法启停控制模块来控制算法模型的启停；通过模型参数通道的AXI总线传输算法模型参数到簇节点的大规模逻辑计算单元节点；每个大规模计算单元运行应用算法模型的业务数据，从数据源中输入，计算处理完的数据通过业务数据总线发送回数据源。

技术领域

本发明涉及一种用于智能终端或边缘计算中心的高算力、低功耗的嵌入式FPGA集群智能计算平台的硬件框架。

技术背景

最近几年，随着人工智能、无人驾驶汽车、网络、工业自动化、机器学习、高性能数据分析和金融分析等计算密集型领域的兴起，终端智能和边缘计算中心的智能化程度和计算需求越来越高。随着智能终端或边缘计算中心的功能复杂度和多样性的提升，对这些应用场景中计算系统的高算力、低功耗、多应用功能部署和计算资源的灵活调度等要求也越来越高。

传统CPU(Central Processing Unit)并行计算的方式已经无法满足我们对计算能力的需求。目前，业界最受欢迎的异构计算平台“CPU+GPU(Graphics Processing Unit)”以及“CPU+FPGA(Field-Programmable Gate Array)”具有比传统CPU并行计算更高效率和低延迟的计算性能，能够很好的满足智能终端或边缘计算中心的算力需求。和“CPU+GPU”相比，“CPU+FPGA”中的FPGA的优势则主要体现在它拥有更高的每瓦性能、非规整数据计算更高的性能、更高的硬件加速性能、更低的设备互联延迟，另外与GPU相比，现场可编程门阵列FPGA可硬件编程，适应于多应用功能的部署。

FPGA是一种集成电路，其中包含的逻辑可以在制造后进行配置和连接(即“现场模式”)。FPGA的可重配置性可以为硬件设计带来很多灵活性，但由于FPGA掉电易失，每次加载都是完整整个FPGA的重配置，这样会导致不需要重配置的业务中断。目前，商用平台上基于FPGA运行深度学习的平台多采用以下模式：在超大规模基础设施架构上，基于CPU的服务器构成了一个CPU计算层，在这个服务器的计算层之上又加入了基于超大规模FPGA组成的FPGA计算层，CPU的计算层和FPGA的计算层都同时接入了数据中心的融合网络，这样运行在本地的CPU或者FPGA的应用可以直接调用远端的FPGA池，然后将已经训练好的各种各样的复杂的神经网络编译成可以在FPGA上执行并加速的代码并通过分布式的方式部署到运算池上。这种架构实施多采用重型虚拟化环境进行资源调用的计算中心机房，单个FPGA资源上运行部署的应用单一。