[发明专利]神经网络计算装置及包含该计算装置的处理器

权利要求书

1.一种神经网络计算装置，其特征在于，包括脉动阵列处理单元和主处理器，所述主处理器用于控制神经网络中的计算元素向所述脉动阵列处理单元的装载以及在所述脉动阵列处理单元中的传递，所述脉动阵列处理单元由多个处理单元构成二维矩阵形式，每个处理单元在所述脉动阵列处理单元的行方向上和列方向上与相邻的处理单元耦合，每个处理单元对接收的计算元素执行相关运算和/或将接收到的计算元素传递给下一个处理单元，其中，所述计算元素包括神经元数据和对应的权重值，所述主处理器控制所述神经元数据从所述脉动阵列处理单元的行方向和列方向中的第一方向装载并沿该第一方向流动，并且控制所述对应的权重值从所述脉动阵列处理单元的行方向和列方向中的第二方向装载并沿该第二方向流动，其中，第一方向和第二方向不同。

2.根据权利要求1所述的计算装置，其特征在于，所述脉动阵列处理单元采用二维矩阵形式，其中，各处理单元采用相同的结构，每个处理单元仅与相邻的处理单元耦合。

3.根据权利要求1至2中任一项所述的计算装置，其特征在于，各处理单元包括：

数据旁路单元：其第一端用于接收入所述神经元数据并将其输出给乘法器，第二端用于将接收到的所述神经元数据直接输出；

权重旁路单元：其第一端用于接入接收所述权重值并将其输出给乘法器，第二端用于将接收到的所述权重值直接输出；

乘法器：用于从所述数据旁路单元接收神经元数据以及从所述权重旁路单元接收权重值并执行乘法运算；

累加器：用于累加来自于所述乘法器的输出并将累加结果从该处理单元输出。

4.根据权利要求3所述的计算装置，其特征在于，还包括数据寄存器，其用于存储所述数据旁路单元接收的神经元数据。

5.根据权利要求3所述的计算装置，其特征在于，还包括权重寄存器，其用于存储所述权重旁路单元接收的权重值。

6.根据权利要求1所述的计算装置，其特征在于，所述主处理器还用于根据相关运算的特点和计算单元的资源使用情况决定是否由所述脉动阵列处理单元执行当前的运算。

7.一种神经网络处理器，其特征在于，包括：

计算单元，其包括根据权利要求1至6中任一项所述的计算装置；

存储单元，其用于存储神经元数据、权重值和指令；

控制单元，其用于获得保存在所述存储单元的指令并发出控制信号。