[发明专利]用于表示神经网络中的稀疏矩阵的装置和方法

权利要求书

1.一种操作单元，包括：

缓冲器，用于存储神经网络中的稀疏矩阵的表示；

稀疏引擎，与所述缓冲器通信耦合；

处理阵列，与所述稀疏引擎通信耦合，所述处理阵列包括使用所述稀疏矩阵执行所述神经网络的电路；

其中，所述稀疏引擎包括执行以下操作的电路：

从所述缓冲器读取所述稀疏矩阵的表示，所述稀疏矩阵的表示包括第一级位图、第二级位图和元素数组；

解压缩所述第一级位图以确定所述稀疏矩阵的每个块是否包括非零元素；以及

响应于块包括非零元素，使用所述元素数组解压缩所述第二级位图以获得所述稀疏矩阵的包括非零元素的块。

2.根据权利要求1所述的操作单元，其中，所述稀疏引擎包括执行以下操作的电路：

检查所述第一级位图的每个元素，以确定所述稀疏矩阵的对应块是否包含非零元素。

3.根据权利要求1所述的操作单元，其中，所述稀疏引擎包括执行以下操作的电路：

以所述第二级位图作为位掩码，使用所述元素数组重建所述稀疏矩阵。

4.根据权利要求1所述的操作单元，其中，所述稀疏矩阵的表示包括第一子级位图和第二子级位图，并且所述稀疏引擎包括执行以下操作的电路：

解压缩所述第一子级位图以确定所述第二级位图的每个部分的每个子块是否包括非零元素；和

响应于子块包括非零元素，解压缩所述第二子级位图以获得所述第二级位图的对应部分的包括非零元素的子块。

5.根据权利要求1所述的操作单元，其中，所述稀疏引擎包括：

第一级解压缩器，包括用于解压缩所述第一级位图的电路；和

第二级解压缩器，与所述第一级解压缩器通信耦合，包括用于解压缩所述第二级位图的电路。

6.根据权利要求1所述的操作单元，其中，所述处理阵列包括多个层，所述多个层中的至少一个层包括使用所述稀疏矩阵执行所述神经网络的电路。

7.一种处理核，包括：

本地存储器；和

操作单元，与所述本地存储器通信耦合，所述操作单元包括：

缓冲器，用于存储神经网络中的稀疏矩阵的表示；

稀疏引擎，与所述缓冲器通信耦合；

处理阵列，与所述稀疏引擎通信耦合，所述处理阵列包括使用所述稀疏矩阵执行所述神经网络的电路；

其中，所述稀疏引擎包括执行以下操作的电路：

从所述缓冲器读取所述稀疏矩阵的表示，所述稀疏矩阵的表示包括第一级位图、第二级位图和元素数组；

解压缩所述第一级位图以确定所述稀疏矩阵的每个块是否包括非零元素；以及

响应于块包括非零元素，使用所述元素数组解压缩所述第二级位图以获得所述稀疏矩阵的包括非零元素的块。

8.根据权利要求7所述的处理核，其中，所述稀疏引擎包括执行以下操作的电路：

检查所述第一级位图的每个元素，以确定所述稀疏矩阵的对应块是否包含非零元素。

9.根据权利要求7所述的处理核，其中，所述稀疏引擎包括执行以下操作的电路：

以所述第二级位图作为位掩码，使用所述元素数组重建所述稀疏矩阵。

10.根据权利要求7所述的处理核，其中，所述稀疏矩阵的表示包括第一子级位图和第二子级位图，并且所述稀疏引擎包括执行以下操作的电路：

解压缩所述第一子级位图以确定所述第二级位图的每个部分的每个子块是否包括非零元素；和

响应于子块包括非零元素，解压缩所述第二子级位图以获得所述第二级位图的对应部分的包括非零元素的子块。

11.根据权利要求7所述的处理核，其中，所述稀疏引擎包括：

第一级解压缩器，包括用于解压缩所述第一级位图的电路；和

第二级解压缩器，与所述第一级解压缩器通信耦合，包括用于解压缩所述第二级位图的电路。