[发明专利]用于人工神经网络中的分布式与协作计算的方法和装置

权利要求书

1.一种执行人工神经网络（ANN）处理的装置，包括：

输入/输出（I/O）接口；

多个处理单元，所述多个处理单元通信地耦合到所述I/O接口以接收针对输入神经元的数据和与所述输入神经元中的每个相关联的突触权重，所述多个处理单元中的每个处理针对所述输入神经元的所述数据和突触权重的至少一部分以生成部分结果；和

通信地耦合所述多个处理单元的互连，所述处理单元中的每个通过所述互连来与一个或多个其他处理单元共享所述部分结果，所述其他处理单元使用所述部分结果来生成附加的部分结果或最终结果。

2. 根据权利要求1所述的装置，还包括：

共享输入总线，用于将针对所述输入神经元的所述数据和突触权重递送到所述处理单元中的每个；和

共享输出总线，用于将所述部分结果或最终结果递送到外部部件。

3.根据权利要求2所述的装置，其中，所述处理单元用于在所述共享输入总线上共享包括输入神经元和权重的数据。

4.根据权利要求1所述的装置，其中，所述互连包括在所述处理单元之间的单向点对点链路。

5.根据权利要求1所述的装置，还包括：

全局控制单元，用于将针对所述输入神经元的数据和与所述输入神经元中的每个相关联的突触权重从所述I/O接口驱动到所述处理单元中的每个，以及进一步配置每个处理单元以执行数据的其相应部分来生成所述部分结果。

6.根据权利要求1所述的装置，其中，所述I/O接口以第一频率操作，并且所述处理单元以低于所述第一频率的第二频率操作。

7.根据权利要求1所述的装置，其中，每个处理单元包括用于执行点积运算以生成所述部分结果和/或最终结果的多个乘法器和加法器。

8.根据权利要求1所述的装置，其中，对于多个周期，在每个周期上向所述处理单元中的每个提供针对输入神经元的数据，并且在每个周期上向不同的处理单元提供突触权重。

9.根据权利要求1所述的装置，其中，对于多个周期，在每个周期上向不同的处理单元提供针对输入神经元的数据和突触权重。

10.一种方法，包括：

接收从输入/输出（I/O）接口向多个处理单元提供的针对输入神经元的数据和与输入神经元中的每个相关联的突触权重；

由所述处理单元处理针对所述输入神经元的数据和突触权重的至少一部分以生成部分结果；和

通过通信地耦合所述多个处理单元的互连来与一个或多个其他处理单元共享每个处理单元的所述部分结果，所述其他处理单元使用所述部分结果来生成附加的部分结果或最终结果。

11. 根据权利要求10所述的方法，还包括：

通过共享输入总线将针对所述输入神经元的数据和突触权重递送到所述处理单元中的每个；和

通过共享输出总线将所述部分结果或最终结果递送到外部部件。

12.根据权利要求11所述的方法，还包括在所述共享输入总线上共享包括输入神经元和权重的数据。

13.根据权利要求10所述的方法，其中，所述互连包括在所述处理单元之间的单向点对点链路。

14.根据权利要求10所述的方法，还包括：

将针对所述输入神经元的数据和与所述输入神经元中的每个相关联的突触权重从I/O接口驱动到所述处理单元中的每个，并且配置每个处理单元以执行数据的其相应部分来生成所述部分结果。

15.根据权利要求10所述的方法，其中，所述I/O接口以第一频率操作，并且所述处理单元以低于所述第一频率的第二频率操作。