[发明专利]芯片的缓存系统、数据处理方法、设备、存储介质及芯片

说明书

本公开提供了一种芯片的缓存系统、数据处理方法、装置、设备、存储介质及芯片，该缓存系统包括：多个运算子系统，每个运算子系统中包括至少一个运算单元、和至少一个局部共享缓存器；每个运算单元与所在运算子系统中的任意局部共享缓存器相连；局部共享缓存器，用于缓存所属的运算子系统内的运算单元读取的运算数据；运算单元，用于基于生成的访问请求，访问运算子系统中与访问请求指示的访问地址匹配的局部共享缓存器；并在从访问的局部共享缓存器中读取到访问请求指示的运算数据的情况下，基于读取到的运算数据进行运算。

技术领域

本公开涉及集成电路技术领域，具体而言，涉及一种芯片的缓存系统、数据处理方法、设备、存储介质及芯片。

背景技术

神经网络是一种模仿动物神经网络行为特征，进行分布式并行信息处理的算法数学模型。随着神经网络的快速发展，神经网络被应用于各个领域内。

一般的，可以利用设计的人工智能(Artificial Intelligence，AI)芯片处理神经网络的运算过程。故设计高效的AI芯片成为了提升神经网络的处理效率的有效手段之一。

发明内容

有鉴于此，本公开至少提供一种芯片的缓存系统、数据处理方法、设备、存储介质及芯片。

第一方面，本公开提供了一种芯片的缓存系统，包括：多个运算子系统，每个所述运算子系统中包括至少一个运算单元、和至少一个局部共享缓存器；每个所述运算单元与所在运算子系统中的任意局部共享缓存器相连；

所述局部共享缓存器，用于缓存所属运算子系统内的运算单元读取的运算数据；

所述运算单元，用于基于生成的访问请求，访问所述运算子系统中与所述访问请求指示的访问地址匹配的局部共享缓存器；并在从访问的局部共享缓存器中读取到所述访问请求指示的运算数据的情况下，基于读取到的所述运算数据进行运算。

这里，将芯片划分为多个运算子系统，每个运算子系统中包括至少一个运算单元和至少一个局部共享缓存器。针对任一运算子系统，该运算子系统中的运算单元可以将读取的运算数据缓存至该运算子系统的局部共享缓存器中，使得该运算子系统中的各个运算单元均能够从局部共享缓存器中读取该运算数据，以及使得每个运算单元能够在不同时间点多次从局部共享缓存器中读取该运算数据，运算数据的利用率较高，且无需从缓存系统的外部多次读取该运算数据，提高了运算单元的运算效率。

一种可能的实施方式中，每个所述运算子系统中还包括：局部互联总线单元；

所述局部互联总线单元，用于将每个所述运算单元与所在运算子系统中的任意局部共享缓存器相连；以及在接收到所述运算单元发出的所述访问请求后，确定与所述访问请求指示的访问地址匹配的局部共享缓存器；

所述运算单元，用于读取所述局部互联总线单元确定的、与所述访问请求指示的访问地址匹配的局部共享缓存器。

这里，通过局部互联总线单元将每个运算单元与任一局部共享缓存器相连，使得每个运算单元能够访问任一局部共享缓存器，提高运算数据的利用率。同时，局部互联总线单元在接收到运算单元发出的访问请求后，确定与访问请求指示的访问地址匹配的局部共享缓存器，以便运算单元能够基于访问请求读取对应的局部共享缓存器。

一种可能的实施方式中，所述运算单元，还用于在从与所述访问请求指示的访问地址匹配的局部共享缓存器中，未读取到所述访问请求指示的运算数据的情况下，基于所述访问请求，从芯片的存储模块中读取所述访问请求指示的运算数据，并将从所述存储模块读取的所述运算数据缓存至所述局部共享缓存器。

这里，在局部共享缓存器中不存在访问请求指示的运算数据时，运算单元可以基于访问请求，从芯片的存储模块中读取访问请求指示的运算数据，并将从存储模块读取的运算数据缓存至局部共享缓存器，以便后续能够从局部共享缓存器中读取到该运算数据，无需再次从存储模块读取该运算数据，提高了运算数据的复用程度。