[发明专利]用于数据处理的存储器访问管理的方法和装置

说明书

本发明题为“用于数据处理的存储器访问管理的方法和装置”。本公开描述了一种方法和系统，该方法和系统包括中央处理单元(CPU)、加速器、通信总线和用于动态地处理图像文件的系统存储器设备。该加速器包括本地存储器缓冲器、数据传输调度器和多个处理引擎。该数据传输调度器被布置成用于管理该系统存储器设备与该本地存储器缓冲器之间的数据传输，其中该数据传输包括与该图像文件相关联的数据。该本地存储器缓冲器被配置为循环行缓冲器，并且该数据传输调度器包括乒乓缓冲器，该乒乓缓冲器用于将输出数据从该处理引擎中的一个处理引擎传输到该系统存储器设备。该本地存储器缓冲器被配置成用于执行与该图像文件相关联的数据的跨层使用。

背景技术

人工神经网络是采用多种机器学习算法来一起处理复杂数据文件(例如，视觉图像、音频文件等)的计算框架。实现人工神经网络的处理器配置可能具有次优性能。计算机或处理器的性能可根据指令执行速率或吞吐量来评估，其中指令执行速率或吞吐量可表示为每秒百万次指令数(MIPS)、时钟速度、总线大小、资源利用率、存储器大小、延迟、带宽、吞吐量等。

用于实现人工神经网络的硬件配置可包括中央处理单元(CPU)，该中央处理单元(CPU)与加速器一起工作以处理在存储器设备上捕获的图像文件或其它数据。加速器可在图形处理单元(GPGPU)、多核处理器、现场可编程门阵列(FPGA)和专用集成电路(ASIC)上以通用计算的形式利用专用硬件。

人工神经网络的一个实施方案是卷积神经网络(CNN)，其已被证实为用于执行图像识别、检测和检索的有效工具。可将CNN扩展和配置为支持学习过程所需的标记为大型的数据集。在这些条件下，发现CNN在学习复杂且稳健的图像特征方面是成功的。CNN是一种前馈人工神经网络，其中单个神经元以使得它们响应视场中重叠区域的方式平铺。

执行图像处理例程的人工神经网络可在存储设备与芯片上缓冲器之间传输大量数据，芯片上缓冲器可包括可与可用来执行人工神经网络的加速器相关联的相对较小存储器存储设备。在采用加速器的实施方案的人工神经网络中执行视觉处理算法时，总线传输速率方面的限制可导致频繁的数据传输以及相关的较大开销。

发明内容

描述了一种用于动态地处理图像文件的方法和系统，该方法和系统包括中央处理单元(CPU)、加速器、通信总线和系统存储器设备，其中系统存储设备被配置成用于存储图像文件。加速器包括本地存储器缓冲器、数据传输调度器和多个处理引擎。本地存储器缓冲器包括输入缓冲器和输出缓冲器，其中输入缓冲器与用于多个处理引擎中的一个处理引擎的输入寄存器组通信，并且输出缓冲器与用于处理引擎中的一个处理引擎的输出寄存器组通信。数据传输调度器被布置成用于管理系统存储器设备与本地存储器缓冲器之间的数据传输，其中数据传输包括与图像文件相关联的数据。本地存储器缓冲器被配置为循环行缓冲器，并且数据传输调度器包括乒乓缓冲器，该乒乓缓冲器用于将输出数据从处理引擎中的一个处理引擎传输到系统存储器设备。本地存储器缓冲器被配置成用于执行与图像文件相关联的数据的跨层使用。

本公开的一个方面包括的图像文件是位图图像文件，该位图图像文件包括来自相机的视场。

本公开的另一方面包括数据传输调度器，该数据传输调度器被配置成用于管理系统存储器设备与本地存储器缓冲器之间的数据传输，该数据传输调度器包括被配置成用于管理数据传输的数据传输调度器，数据传输包括与图像文件的一部分相关联的数据。

本公开的另一方面包括本地存储器缓冲器，该本地存储器缓冲器被配置为循环行缓冲器，该循环行缓冲器包括读取位图图像文件的第一数量的行并将位图图像文件的第一数量的行传输到输入缓冲器，以供处理引擎中的一个处理引擎处理，并且同时将下一数量的行更新到输入缓冲器中。