[发明专利]计算神经网络的装置、板卡、方法及可读存储介质

权利要求书

1.一种计算装置，连接至片外内存，所述计算装置包括多个集群，每个集群包括：

共享存储单元；

第一直接内存访问模块，用以将第一片上单元图自所述片外内存载入至所述共享存储单元中；以及

多个处理器核，用以分别对所述第一片上单元图进行计算，并产生第一计算结果；

其中，所述第一直接内存访问模块将所述第一计算结果从所述共享存储单元存回至所述片外内存中。

2.根据权利要求1所述的计算装置，其中当所述多个处理器核对所述第一片上单元图进行计算以产生所述第一计算结果时，所述第一直接内存访问模块将第二片上单元图自所述片外内存载入至所述共享存储单元中。

3.根据权利要求2所述的计算装置，其中当所述第一计算结果被存回至所述片外内存时，所述多个处理器核分别对所述第二片上单元图进行计算，并产生第二计算结果，所述第一直接内存访问模块将第三片上单元图自所述片外内存载入至所述共享存储单元中。

4.根据权利要求3所述的计算装置，其中每个集群还包括存储核，用以将所述第一片上单元图分割成多个第一子图，广播发送至所述多个处理器核进行计算。

5.根据权利要求4所述的计算装置，其中所述处理器核包括：

神经元存储单元；

第二直接内存访问模块，用以从所述共享存储单元中将所述多个第一子图其中之一载入到所述神经元存储单元中；

运算模块，用以根据所述多个第一子图其中之一进行计算，以产生第一中间结果；

其中，所述第二直接内存访问模块将所述第一中间结果存回至所述共享存储单元中。

6.根据权利要求5所述的计算装置，其中所述多个处理器核其中之一将每个第一中间结果归约成所述第一计算结果。

7.根据权利要求6所述的计算装置，其中当所述运算模块根据所述第一子图进行计算时，所述存储核将所述第二片上单元图分割成多个第二子图，广播发送至所述多个处理器核。

8.根据权利要求7所述的计算装置，其中当所述第二直接内存访问模块将所述第一中间结果存回至所述共享存储单元中时，所述运算模块根据所述第二子图进行计算，以产生第二中间结果，所述存储核将所述第三片上单元图分割成多个第三子图，广播发送至所述多个处理器核。

9.根据权利要求3所述的计算装置，其中所述共享存储单元包括：

乒存储空间，用以存储所述第一片上单元图、所述第一计算结果及第三片上单元图；以及

乓存储空间，用以存储所述第二片上单元图及所述第二计算结果。

10.根据权利要求9所述的计算装置，其中所述乒存储空间与所述乓存储空间具有相同大小。

11.根据权利要求5所述的计算装置，其中所述第二直接内存访问模块为搬运直接内存访问模块。

12.根据权利要求1所述的计算装置，其中所述第一直接内存访问模块为全局直接内存访问模块。

13.一种集成电路装置，包括根据权利要求1-12的任意一项所述的计算装置。

14.一种板卡，包括根据权利要求13所述的集成电路装置。

15.一种利用计算装置计算神经网络的方法，所述计算装置包括多个集群，每个集群包括共享存储单元，所述方法包括：

第一层载入阶段：将第一片上单元图自片外内存载入至所述共享存储单元中；

第一层计算阶段：分别对所述第一片上单元图进行计算，并产生第一计算结果；以及

第一层存回阶段：将所述第一计算结果从所述共享存储单元存回至所述片外内存中。