[发明专利]基于人工智能芯片的数据处理方法、装置和存储介质

说明书

本发明实施例提供了一种基于人工智能芯片的数据处理方法、装置和存储介质。该基于人工智能芯片的数据处理方法包括：从所述存储器读入当前输入数据；确定所述当前输入数据对应的第一预设权重，所述第一预设权重用于表示所述当前输入数据在剩余处理过程的利用次数或利用频率；根据所述当前输入数据对应的第一预设权重将所述当前输入数据写入所述第一目标缓存器，所述第一目标缓存器为所述多个缓存器的其中一个，所述第一目标缓存器用于存储所述当前输入数据并将所述当前输入数据传输至所述计算模块进行当前计算以得到输出数据。通过当前输入数据对应的第一预设权重选择存储的缓存器，达到提升人工智能芯片的读写效率的效果。

技术领域

本发明实施例涉及人工智能芯片技术领域，尤其涉及一种基于人工智能芯片的数据处理方法、装置和存储介质。

背景技术

随着人工智能芯片的快速发展，如何提高人工智能芯片的处理速度也越来越重要。

目前，常用的方案是从存储器依次读取输入数据给按顺序传输给多个缓存器，缓存器依次将输入数据传输给计算模块进行相应计算。例如，多个缓存器为两个时，第一个缓存器先缓存第一个输入数据，第二个缓存器缓存第二个输入数据，当需要缓存第三个输入数据时，则将第三个输入数据重新缓存至第一个缓存器中，当缓存器没有计算模块需要计算的数据时，又要重新从存储器中读取该需要计算的数据。

然而，目前通过从存储器依次读取输入数据给按顺序传输给多个缓存器，需要频繁在存储器和缓存器之间进行数据的交互，导致读写效率十分低下。

发明内容

本发明实施例提供一种基于人工智能芯片的数据处理方法、装置和存储介质，以实现提升人工智能芯片的读写效率。

第一方面，本发明实施例提供了一种基于人工智能芯片的数据处理方法，应用于人工智能芯片，所述人工智能芯片包括存储器、计算模块和多个缓存器，所述多个缓存器分别与所述存储器连接，所述缓存器的传输速度大于所述存储器的传输速度，所述方法包括：

从所述存储器读入当前输入数据；

确定所述当前输入数据对应的第一预设权重，所述第一预设权重用于表示所述当前输入数据在剩余处理过程的利用次数或利用频率；

根据所述当前输入数据对应的第一预设权重将所述当前输入数据写入所述第一目标缓存器，所述第一目标缓存器为所述多个缓存器的其中一个，所述第一目标缓存器用于存储所述当前输入数据并将所述当前输入数据传输至所述计算模块进行当前计算以得到输出数据。

可选的，所述根据所述当前输入数据对应的第一预设权重将所述当前输入数据写入所述第一目标缓存器，包括：

若所述多个缓存器都存储有数据时，确定每个缓存器存储的数据各自对应的第二预设权重；

将所述第二预设权重小于所述第一预设权重对应的缓存器作为第一候选缓存器；

将所述第一候选缓存器的其中一个作为所述第一目标缓存器，以向所述第一目标缓存器写入所述当前输入数据。

可选的，将所述第一候选缓存器的其中一个作为所述第一目标缓存器，包括：

将所述第一候选缓存器中，对应的第二预设权重最小的第一候选缓存器作为所述第一目标缓存器。

可选的，所述方法还包括：

若所述每个缓存器存储的数据对应的第二预设权重均大于所述第一预设权重，则将所述多个缓存器中对应的第二预设权重最小的缓存器作为所述第一目标缓存器。

可选的，所述方法还包括：

确定所述输出数据对应的第三预设权重；