[发明专利]一种用于执行神经网络计算的脉动阵列系统

摘要

本发明实施例公开了一种神经网络乘加的系统和设备，本公开基于脉动阵列系统建立，核心组成包括：脉动阵列单元，用于数据传输和乘加计算，由若干相同的处理单元耦合而成；存储阵列，用于将传输脉动阵列单元的矩阵进行暂存和缓存处理，存储阵列包括与权值数据和神经元数据相关的多种性质数据对应的不同存储阵列。通过存储阵列与脉动阵列单元的相对位置优化，实现了数据矩阵在脉动阵列单元内部的可控转置。另一方面，多种存储阵列的存在，使得在采用本发明实施例时，能够解决现有脉动阵列系统难以实现的高效流水作业，提高了装置运行效率，还使脉动阵列系统具有能够应对多个不同权值矩阵的灵活性。

主权项

1.一种用于执行神经网络计算的脉动阵列系统，提供有输入矩阵，所述输入矩阵包括权值矩阵和神经元数据矩阵，所述脉动阵列系统包括脉动阵列单元、存储阵列、运算单元和控制单元，所述脉动阵列单元由若干结构相同的处理单元构成二维矩阵形式，每个处理单元至少包括一个内置的运算器和两个内置的寄存器，每个处理单元在所述脉动阵列单元的行方向上和列方向上与相邻的处理单元耦合，每个处理单元接收控制单元指令，并使用所述运算器对接收到的所述输入矩阵元素执行相关运算得到结果矩阵，每个处理单元还使用所述寄存器将接收到的所述输入矩阵的元素或所述结果矩阵的元素沿对应矩阵的传动方向传递给下一个处理单元，所述运算单元由处理单元中的运算器耦合而成；其特征在于，所述存储阵列包括转置权值矩阵存储阵列，所述转置权值矩阵存储阵列设有输入端阵列，所述转置权值矩阵存储阵列的输入端阵列为第一输入端阵列，所述第一输入端阵列与所述脉动阵列单元中由处理单元耦合而成的一条外边缘相连接，与所述第一输入端阵列相连的所述脉动阵列单元外边缘与所述输入矩阵的传入方向平行；所述存储阵列还包括神经元数据矩阵存储阵列，所述神经元数据矩阵存储阵列的输入端阵列为第二输入端阵列，第二输入端阵列与脉动阵列单元中由处理单元耦合而成的一条外边缘相连接，所述脉动阵列单元中与所述第一输入端阵列和所述第二输入端阵列连接处的两条外边缘相邻或平行；所述存储阵列用于接收外部传入脉动阵列单元的所述输入矩阵，并按照先进先出规则将其输出到所述运算单元进行运算得到所述结果矩阵。