[发明专利]直接存储器存取引擎及其方法

说明书

本发明提出一种直接存储器存取引擎及其方法。此直接存储器存取引擎用以控制来源存储器至目的存储器的数据传输，并包括任务配置存储模块、控制模块及运算模块。任务配置存储模块存储任务配置。控制模块依据任务配置读入来自来源存储器的来源数据。而运算模块响应于控制模块的任务配置而对来自来源存储器的来源数据进行函数运算，且控制模块依据任务配置而将经函数运算输出的目的数据输出至目的存储器。藉此，可以在存储器之间的数据搬运过程中实现直接(on‑the‑fly)运算。

技术领域

本发明涉及一种直接存储器存取(Direct Memory Access，DMA)引擎 (engine)，且尤其涉及一种适用于神经网络(Neural Network，NN)运算的直接存储器存取引擎及其方法。

背景技术

直接存储器存取技术能够对一个地址空间记录的数据传输到不同存储器、储存器或输入输出装置中的特定地址空间，而不需要通过处理器来存取存储器，是相当快速的数据传输方式。而前述传输作业可通过直接存储器存取引擎(或称直接存储器控制器)来实行，并经常应用在诸如绘图显示、网络接口、硬盘控制等硬件设备。

另一方面，神经网络是一种模仿生物神经网络的结构与功能的数学模型，其可对函数进行评估或近似运算，并经常应用于人工智能领域。一般而言，执行神经网络运算需要抓取大量地址非连续的数据，传统直接存储器存取引擎需要反复启动多次执行多次传输作业以进行数据传输，神经网络运算的特点是每次数据传输的数据量并不大，但数据传输的次数非常之多，每次数据传输都需要启动直接存储器存取引擎并对其进行配置，而直接存储器存取引擎的配置比较耗时，甚至长于数据传输本身所耗费的时间。由此可知，现有神经网络运算仍有待改善。

发明内容

有鉴于此，本发明提供一种直接存储器存取引擎及其方法，在传输数据的过程中导入神经网络相关运算，使直接存储器存取引擎直接实现在传输过程中的(on-the-fly)运算。

本发明的直接存储器存取引擎，其用以控制来源存储器至目的存储器的数据传输。而此直接存储器存取引擎包括任务配置存储模块、控制模块及运算模块。任务配置存储模块存储任务配置。控制模块依据任务配置读入来自来源存储器的来源数据。而运算模块响应于控制模块的任务配置而对来自来源存储器的来源数据进行函数运算，且控制模块依据任务配置而将经函数运算输出的目的数据输出至目的存储器。

另一方面，本发明的直接存储器存取方法，其适用于直接存储器存取引擎控制来源存储器至目的存储器的数据传输。而此直接存储器存取方法包括下列步骤。取得任务配置。依据任务配置读入来自来源存储器的来源数据。响应于任务配置而对来自来源存储器的来源数据进行函数运算。依据任务配置而将经函数运算输出的目的数据输出至目的存储器。

基于上述，相较于传统直接存储器存取引擎仅具有数据传输功能，且对来源数据的运算须由处理元件(Processing Element，PE)执行。在来源存储器与目的存储器之间的数据传输过程中，本发明实施例的直接存储器存取引擎可对传输的数据进行函数运算。藉此，可减少处理元件的计算时间或直接存储器存取引擎的传输数据时间，从而大幅提升运算速度，进而助于神经网络运算中的大量数据存取及交换操作。

为让本发明的上述特征和优点能更明显易懂，下文特举实施例，并配合附图作详细说明如下。

附图说明

图1是依据本发明一实施例的计算机系统的示意图。

图2是依据本发明一实施例的直接存储器存取引擎的元件方块图。

图3是依据本发明一实施例的直接存储器存取方法的流程图。

图4A是一示例说明函数运算为平均值运算的逻辑运算架构图。

图4B是另一示例说明函数运算为平均值运算的逻辑运算架构图。

图5是一示例说明三维数据矩阵。