[发明专利]数据并行写入、读取方法、装置及系统

说明书

本发明提供数据并行写入、读取方法、装置及系统，所述方法包括：将待写入数据向量的写入数据索引变换为一维写入地址；根据所述一维写入地址和预设写入数据个数，获取所述待写入数据向量的写入数据使能向量、第一存储索引向量和第一存储地址向量；根据所述第一存储索引向量，对所述写入数据使能向量、所述第一存储地址向量和所述待写入数据向量进行重排序，根据重排序后的所述写入数据使能向量和所述第一存储地址向量将重排序后的所述待写入数据向量存入所述并行存储器。本发明支持数据从一个或多个维度进行并行写入，提高了数据写入的灵活性和写入效率。

技术领域

本发明属于数据存取技术领域，更具体地，涉及数据并行写入、读取方法、装置及系统。

背景技术

近年来，人工智能在各个领域得到广泛的应用。人工智能算法通常都是数据量很大的算法，因此为了加快人工智能算法的执行速度，不仅需要优化运算系统，还需要优化存储系统。

GPU是被大量使用的人工智能算法的硬件平台，GPU的存储有着特定的针对矩阵计算的多级缓存结构来优化存储系统。在嵌入式应用领域，由于功耗等的约束，通常使用定制化的可编程芯片而不是GPU来实现人工智能算法。在这些嵌入式芯片中有一类是向量计算机芯片，也很适合进行人工智能算法加速，这类计算机芯片通常使用向量存储器作为存储系统。

但是，对于GPU来说，尺寸、功耗都很大。因此，在嵌入式应用领域的使用受到很大的限制。人工智能算法需要进行大量矩阵运算，因此处理的数据常常是多维的数据块，包括一维和多维。不同的算法需要从一个或多个维度对数据进行并行连续读写。而向量存储器每次只能固定地存取一个特定长度的向量数据，数据存取的灵活度不足，无法满足复杂多变的人工智能算法对数据存取的需求。

发明内容

为克服上述现有的数据存取系统尺寸和功耗大，且数据存取不灵活的问题或者至少部分地解决上述问题，本发明提供一种数据并行写入、读取方法、装置及系统。

根据本发明的第一方面，提供一种数据并行写入方法，包括：

将待写入数据向量的写入数据索引变换为一维写入地址；其中，所述待写入数据向量为待写入的多维数据矩阵中的一个一维或多维向量，所述写入数据索引为所述待写入数据向量的所有元素中第一个待写入元素在所述待写入的多维数据矩阵中的索引待写入的多维数据矩阵中的索引；

根据所述一维写入地址和预设写入数据个数，获取所述待写入数据向量的写入数据使能向量、第一存储索引向量和第一存储地址向量；其中，所述写入数据使能向量中的每个元素用于表示所述待写入数据向量中相应位置的元素是否写入；所述第一存储索引向量为所述待写入数据向量中各元素对应的并行存储器中各存储子单元的索引所构成的向量；所述第一存储地址向量为所述待写入数据向量中各元素对应的各存储子单元中的地址所构成的向量；

根据所述第一存储索引向量，对所述写入数据使能向量、所述第一存储地址向量和所述待写入数据向量进行重排序，根据重排序后的所述写入数据使能向量和所述第一存储地址向量将重排序后的所述待写入数据向量存入所述并行存储器。

根据本发明第二方面提供一种数据并行读取方法，包括：

将待读取数据向量的读取数据索引变换为一维读取地址；其中，所述待读取数据向量为待读取的多维数据矩阵中的一个一维或多维向量；所述读取数据索引为所述待读取数据向量的所有元素中第一个待读取元素在所述待读取的多维数据矩阵中的索引；

根据所述一维读取地址和预设读取数据个数，获取所述待读取数据向量的读取数据使能向量、第二存储索引向量和第二存储地址向量；其中，所述读取数据使能向量中的每个元素用于表示所述待读取数据向量中相应位置的元素是否读取；所述第二存储索引向量为所述待读取数据向量中各元素在并行存储器中各存储子单元的索引所构成的向量；所述第二存储地址向量为所述待读取数据向量中各元素在各所述存储子单元中的地址所构成的向量；