[发明专利]数据管理装置及数据管理方法

说明书

本发明提供一种数据管理装置及数据管理方法。所述数据管理装置包括数据读取分发电路以及多个存器。数据读取分发电路耦接至这些寄存器。数据读取分发电路基于数据请求从外部存储器提取多个数据。数据读取分发电路基于数据请求的数据配置方式将这些寄存器划分为至少一个寄存器群组，将所述多个数据划分为对应所述至少一个寄存器群组的至少一个数据群组，以及将将所述至少一个数据群组中的每一个数据群组的所有数据分发至所述至少一个寄存器群组中的对应寄存器群组的每一个寄存器。

技术领域

本发明涉及一种电子装置，且特别涉及一种数据管理装置及数据管理方法。

背景技术

在图形处理单元上的通用计算（general-purpose computing on graphicsprocessing units，GPGPU）是利用处理图形任务的图形处理器来计算原本由中央处理器（central processing unit，CPU）处理的通用计算任务。这些通用计算任务可以与图形处理没有关系。由于图形处理器有强大的并列处理能力和可程序化管线（pipeline），图形处理器也可以处理非图形数据。特别是单指令流多数据流（single instruction multipledata，SIMD），GPGPU在效能上大大超越了传统的CPU应用程序。

在GPGPU的设计中，每个执行单元（execution unit，EU）有一个属于自己的常数寄存器（constant buffer）。在正常工作中，每个执行单元会基于程序执行需求而去自己专用的常数寄存器取用常数数据。在程序执行之前，配置单元发送数据读取请求给常数读取广播单元。常数读取广播单元将收到的数据读取请求转发给外部存储器。在外部存储器返回常数数据后，常数读取广播单元将数据广播给所有的常数寄存器。因此在程序执行的过程中，执行单元可以根据需要而去访问其对应的常数寄存器。

现有的这种工作模式有以下特点：1）常数寄存器只有在程序执行前初始化一次；2）每个常数寄存器的内容完全一致。无论如何，常数寄存器的内容在每个程序的执行过程中无法被更新，致使存储空间利用率较低。再者，如果不同执行单元使用不同的常数数据，在常数寄存器中的有效存放数据少。举例来说，假设n个执行单元使用不同的卷积核（convolution kernel），则这n个卷积核会被存储于每个常数寄存器中。然而，任何一个执行单元只使用这n个卷积核中的一个，而其他未被使用的卷积核将占用大量存储空间。如何更有效率地管理与使用常数寄存器，是本领域的重要技术课题之一。

发明内容

本发明提供一种数据管理装置及数据管理方法，以有效率地管理与使用寄存器（buffer）。

在根据本发明的实施例中，所述数据管理装置包括数据读取分发电路以及多个寄存器。数据读取分发电路耦接至所述多个寄存器。所述数据读取分发电路基于数据请求从外部存储器提取多个数据。所述数据读取分发电路基于所述数据请求的数据配置方式将所述多个寄存器划分为至少一个寄存器群组，将所述多个数据划分为对应所述至少一个寄存器群组的至少一个数据群组，以及将所述至少一个数据群组中的每一个数据群组的所有数据分发至所述至少一个寄存器群组中的对应寄存器群组的每一个寄存器。

在根据本发明的实施例中，所述数据管理方法包括：由数据读取分发电路基于数据请求从外部存储器提取多个数据；由所述数据读取分发电路基于所述数据请求的数据配置方式将所述多个寄存器划分为至少一个寄存器群组；将所述多个数据划分为对应所述至少一个寄存器群组的至少一个数据群组；以及将所述至少一个数据群组中的每一个数据群组的所有数据分发至所述至少一个寄存器群组中的对应寄存器群组的每一个寄存器。

基于上述，本发明诸实施例所述的数据管理装置具有可配置的数据分发功能。在一些实际操作情境中，基于所述数据请求的数据配置方式，数据读取分发电路可以拆分从外部存储器提取的数据而产生多笔经拆分常数数据，以及将多个寄存器划分为多个寄存器群组。数据读取分发电路可以将这些经拆分常数数据一对一地分发给这些寄存器群组。因此，不同寄存器群组的内容可以互不相同，使得数据读取分发电路可以有效率地管理与使用寄存器的存储空间。