[发明专利]神经网络加速器的存储控制方法、装置、电子设备及介质

说明书

本发明公开了一种神经网络加速器的存储控制方法、装置、电子设备及介质，所述方法包括：针对分批处理的数据中当前待写入片上存储器的批次数据，检测所述片上存储器是否存在剩余存储空间；当检测结果为是时，根据所述剩余存储空间的大小，将所述批次数据写入所述片上存储器。由于在本发明实施例中，针对分批处理的数据中当前待写入片上存储器的批次数据，如果检测到片上存储器存在剩余存储空间，根据剩余存储空间的大小，将所述批次数据写入所述片上存储器，避免了在对分批处理的数据在片上存储器进行写入时，仅能在片上存储器写入同一批次数据，造成的存储空间的浪费，提高了片上存储器的存储空间利用率和数据调度效率。

技术领域

本发明涉及数据存储技术领域，尤其涉及一种神经网络加速器的存储控制方法、装置、电子设备及介质。

背景技术

随机存取存储器(random access memory，RAM)又称为“随机存储器”是与芯片直接交换数据的内部存储器，它可以随时读写，而且速度很快，通常作为操作系统或其他正在运行中的程序的临时数据存储媒介。RAM可以分为两类静态RAM(Static RAM，SRAM)和动态RAM(Dynamic RAM，DRAM)，DRAM只能将数据保持很短的时间，读写速度也比SRAM慢，常用于系统的内存；SRAM是目前读写速度最快的存储器，但是它也非常昂贵，所以只在要求很苛刻的地方使用，如芯片内部设备的高速缓存等。

随着机器学习和人工智能的兴起，用以提高运算速度的神经网络加速器受到了广泛的关注，神经网络加速器在工作时，首先将需要处理的数据写入神经网络加速器中设置的片上存储器，再从片上存储器读取数据进行处理，以提高处理效率，其中所述片上存储器通常为SRAM。然而，对于分批处理的数据在片上存储器进行存储时，通常采用反复从片上存储器的0地址存储的方式，例如：片上存储器的存储空间为15(地址0-地址14)，第一批次数据存储在片上存储器的地址0～9，那么片上存储器的地址10-14空闲；第二批次数据等第一批次数据处理完成释放片上存储器的存储空间之后，从地址0开始存储数据，造成了存储空间的浪费，也影响了数据调度效率。

发明内容

本发明提供一种神经网络加速器的存储控制方法、装置、电子设备及介质，用以解决现有技术中存在片上存储器的存储空间浪费，影响数据调度效率的问题。

第一方面，本发明公开了一种神经网络加速器的存储控制方法，所述方法包括：

针对分批处理的数据中当前待写入片上存储器的批次数据，检测所述片上存储器是否存在剩余存储空间；

当检测结果为是时，根据所述剩余存储空间的大小，将所述批次数据写入所述片上存储器。

在一个可选的设计中，所述根据所述剩余存储空间的大小，将所述批次数据写入所述片上存储器包括：

判断所述剩余存储空间的大小是否不小于所述批次数据的大小；

如果是，将所述批次数据写入所述片上存储器；

如果否，将所述批次数据中与所述剩余存储空间的大小相等的数据写入所述片上存储器。

在一个可选的设计中，所述将所述批次数据中与所述剩余存储空间的大小相等的数据写入所述片上存储器之后，所述方法还包括：

检测到所述片上存储器释放存储空间时，将所述批次数据中未写入所述片上存储器的数据写入所述片上存储器。

在一个可选的设计中，所述片上存储器为循环寻址片上存储器。

第二方面，本发明公开了一种神经网络加速器的存储控制装置，所述装置包括：

检测模块，用于针对分批处理的数据中当前待写入片上存储器的批次数据，检测所述片上存储器是否存在剩余存储空间，如果检测结果为是，触发存储模块；