[发明专利]一种基于数据流架构的神经网络计算系统及方法

权利要求书

1.一种基于数据流架构的神经网络计算系统，其特征在于，包括：

片外存储器和神经网络加速模块，所述神经网络加速模块包括转换单元、片内存储器和计算单元；

所述片外存储器用于存储数据；

所述转换单元连接在所述片内存储器和所述片外存储器之间，用于实现所述片外存储器的第一通信总线和所述片内存储器的第二通信总线之间的转换，以将所述数据存储至所述片内存储器；

所述计算单元通过第二通信总线和所述片内存储器直接连接，用于基于从所述片内存储器接收的所述数据进行计算。

2.如权利要求1所述的神经网络计算系统，其特征在于，所述计算单元通过第一通信总线和所述片外存储器直接连接，用于基于从片外存储器直接接收的所述数据进行计算。

3.如权利要求2所述的神经网络计算系统，其特征在于，所述计算单元包括：

数据流向选择子单元，用于控制所述数据的流向。

4.如权利要求1或2所述的神经网络计算系统，其特征在于，所述第一通信总线为AXI总线，所述转换单元和所述片外存储器之间通过AXI总线协议对所述数据进行交互或所述计算单元和所述片外存储器之间通过AXI总线协议对所述数据进行交互。

5.如权利要求1所述的神经网络计算系统，其特征在于，所述第二通信总线为Sif总线，所述转换单元和所述片内存储器之间通过Sif总线协议对所述数据进行交互，所述片内存储器和所述计算单元之间通过所述Sif总线协议对所述数据进行交互。

6.如权利要求5所述的神经网络计算系统，其特征在于，所述Sif总线的通道为至少一个。

7.如权利要求1所述的神经网络计算系统，其特征在于，所述计算单元包括算子。

8.一种基于数据流架构的神经网络计算方法，其特征在于，应用于如权利要求1-7所述的神经网络计算系统，所述神经网络为多层，所述方法包括：

获取神经网络的当前层需要计算的数据；

根据所述数据预估当前层的计算时间和传输时间；

根据所述计算时间和所述传输时间，确定需要计算的数据的传输路径。

9.如权利要求8所述的方法，其特征在于，所述传输时间包括第一传输时间和第二传输时间，所述第一传输时间为所述计算单元与所述片外存储器之间的数据传输时间，所述第二传输时间为所述计算单元与所述片内存储器之间的数据传输时间，所述第一传输时间大于所述第二传输时间；

所述根据所述计算时间和所述传输时间，确定需要计算的数据的传输路径，包括：

判断所述计算时间是否大于所述第一传输时间；

在所述计算时间大于所述第一传输时间的情况下，控制计算单元与片外存储器进行数据的交互，或控制所述计算单元与片内存储器进行数据的交互；

在所述计算时间小于或等于所述第一传输时间的情况下，所述计算单元与所述片内存储器进行数据的交互。

10.如权利要求9所述的方法，其特征在于，所述控制计算单元与片外存储器进行数据的交互，或控制所述计算单元与片内存储器进行数据的交互，包括：

判断所述数据是否排好顺序；

在所述数据排好顺序的情况下，控制所述计算单元与所述片外存储器进行所述数据的交互；

在所述数据未排好顺序的情况下，控制所述计算单元与所述片内存储器进行所述数据的交互。