[发明专利]神经网络运算模块和方法

摘要

本发明公开了一种神经网络处理装置，其映射单元接收输入神经元的连接关系数据和权值的连接关系数据后，根据输入神经元的连接关系数据和权值的连接关系数据获取处理后的输入神经元和处理后的权值；神经网络处理装置的运算单元对处理后的输入神经元和处理后的权值进行人工神经网络运算。采用本发明实施例可减少装置的额外开销，并减小访问量，提高了神经网络运算效率。

主权项

1.一种神经网络运算模块，其特征在于，包括：映射单元，用于接收到输入数据的连接关系数据后，根据所述输入数据的连接关系数据获取处理后的输入数据，所述输入数据包括输入神经元和权值，所述处理后的输入数据包括处理后的输入神经元和处理后的权值；具体包括：所述输入数据是以矩阵的形式表示的，所述输入数据的连接关系数据以列表的列表LIL的形式表示，以所述LIL的形式表示的连接关系数据包括至少一个列表，所述至少一个列表中的每个列表包括至少一个记录，所述记录包括绝对值大于预设阈值的输入数据的列索引和绝对值大于预设阈值的输入数据的值，所述映射单元具体用于：根据所述LIL中的每个记录获取所述处理后的输入数据，或者；所述输入数据是以矩阵的形式表示的，所述输入数据的连接关系数据以坐标列表COO的形式表示，以所述COO形式表示的连接关系数据由至少一个元组组成，所述元组包括输入数据矩阵中绝对值大于预设阈值的输入数据在所述输入数据矩阵中的行号、列号和该绝对值大于预设阈值的输入数据的值，所述映射单元具体用于：根据所述坐标列表中的每个元组获取所述处理后的输入数据，或者；所述输入数据是以矩阵的形式表示的，所述输入数据的连接关系数据以压缩稀疏行CSR的形式表示，以所述CSR的形式表示的连接关系数据包括三个数组，分别为第一数组，第二数组和第三数组，所述第一数组存储输入数据矩阵中的绝对值大于预设阈值的输入数据的值，所述第二数组存储所述输入数据矩阵中的绝对值大于预设阈值的输入数据在所述输入数据矩阵中的列索引，所述第三数组用于累加存储所述输入数据矩阵中每一行绝对值大于预设阈值的输入数据的个数，并且所述第三数组中的最后一个元素存储所述输入数据矩阵中绝对值大于预设阈值的输入数据的个数，所述映射单元具体用于：根据所述第一数组，所述第二数组和所述第三数组获取所述处理后的输入数据，或者；所述输入数据是以矩阵的形式表示的，所述输入数据的连接关系数据以压缩稀疏列CSC的形式表示，以所述CSC的形式表示的连接关系数据包括三个数组，分别为第四数组，第五数组和第六数组，所述第四数组存储输入数据矩阵中的绝对值大于预设阈值的输入数据的值，所述第五数组存储所述输入数据矩阵中的绝对值大于预设阈值的输入数据在所述输入数据矩阵中的行索引，所述第六数组用于累加存储所述输入数据矩阵中每一列绝对值大于预设阈值的输入数据的个数，并且所述第六数组中的最后一个元素存储所述输入数据矩阵中绝对值大于预设阈值的输入数据的个数，所述映射单元具体用于：根据所述第四数组，所述第五数组和所述第六数组获取所述处理后的输入数据，或者；所述输入数据是以矩阵的形式表示的，所述输入数据的连接关系数据以ELL的形式表示，以所述ELL的形式表示的连接关系数据包括两个矩阵，分别为第一矩阵和第二矩阵，所述第一矩阵用于存储所述输入数据矩阵中绝对值大于预设阈值的输入数据在所述输入数据矩阵中的列号，所述第二矩阵存储所述绝对值大于预设阈值的输入数据的值，所述映射单元具体用于：根据所述第一矩阵和所述第二矩阵获取所述处理后的输入数据，或者；所述输入数据是以矩阵的形式表示的，所述输入数据的连接关系数据以混合HYB的形式表示，以所述HYB形式表示的连接关系数据包括第三矩阵、第四矩阵和至少一个元组，所述第四矩阵存储输入数据矩阵中每一行最大相同数量的绝对值大于预设阈值的输入数据，所述第三矩阵存储在所述第四矩阵中存储的绝对值大于预设阈值的输入数据在所述输入数据矩阵中的列号，所述至少一个元组中的每个元组用于存储所述输入数据矩阵中的任一行相对于其他行多出来输入数据的行号，列号和该输入数据的值，所述映射单元具体用于：根据所述第三矩阵、所述第四矩阵和所述至少一个元组获取所述处理后的输入数据；运算单元，用于根据微指令对所述处理后的输入神经元和所述处理后的权值进行人工神经网络运算，以得到运算结果。