[发明专利]存储权重矩阵的方法、推断系统和计算机可读存储介质

权利要求书

1.一种在包括多个集群的电路中存储用于被训练的人工神经网络的稀疏权重矩阵的方法，所述方法包括：

将所述稀疏权重矩阵分割成至少一个第一子区块及至少一个第二子区块，所述至少一个第一子区块仅包括零值权重且所述至少一个第二子区块包括非零值权重；以及

将所述至少一个第二子区块中的所述非零值权重指派给所述电路的所述多个集群中的至少一个集群，

其中所述电路被配置成执行所述至少一个第二子区块的所述非零值权重与输入向量之间的矩阵-向量乘法。

2.根据权利要求1所述的方法，还包括：识别所述多个集群中在指派所述非零值权重期间未被指派至少一个非零值权重的集群。

3.根据权利要求2所述的方法，还包括：完全切断未被指派至少一个非零值权重的所述集群的电力。

4.根据权利要求1所述的方法，其中所述多个集群中的每一集群包括忆阻器的阵列。

5.根据权利要求4所述的方法，其中所述忆阻器选自由电阻式随机存取存储器、导电桥接随机存取存储器、相变存储器、铁电场效应晶体管、自旋转移力矩随机存取存储器、及其组合所组成的群组。

6.根据权利要求4所述的方法，其中指派所述非零值权重包括利用与所述忆阻器串联连接的多个选择器设定所述忆阻器中的每一者的电阻。

7.根据权利要求1所述的方法，其中：

所述稀疏权重矩阵具有512×512的大小，

所述至少一个第一子区块具有256×256的大小，且

所述至少一个第二子区块具有选自由128×128、64×64及32×32组成的群组的大小。

8.根据权利要求1所述的方法，其中分割所述稀疏权重矩阵包括以递归方式将所述至少一个第二子区块的大小与所述多个集群中的最小集群的大小进行比较。

9.根据权利要求8所述的方法，其中，如果所述至少一个第二子区块的所述大小等于所述最小集群的所述大小，则所述方法还包括：

计算利用包括未被闭锁元件缓冲器及至少一个数字算术逻辑单元的未被闭锁元件集群处理所述非零值权重的第一能量成本；

计算使用所述最小集群处理所述非零值权重的第二能量成本；

确定所述第一能量成本及所述第二能量成本中的较低的能量成本；以及

根据所述较低的能量成本，将所述非零值权重指派给所述未被闭锁元件集群或所述最小集群。

10.根据权利要求8所述的方法，其中，如果所述至少一个第二子区块的所述大小大于所述最小集群的所述大小，则所述方法还包括：

将所述至少一个第二子区块进一步分割成多个子区，所述多个子区具有与所述多个集群中的第一多个集群的大小匹配的大小；

计算使用所述第一多个集群处理所述多个子区中的每一者的所述非零值权重的第一总能量成本；

计算使用与所述至少一个第二子区块的每一者具有相同的大小的单个集群处理所述至少一个第二子区块的所述每一者的所述非零值权重的第二总能量成本；

确定所述第一总能量成本及所述第二总能量成本中的较低的总能量成本；以及

根据所述较低的总能量成本，将所述多个子区的所述非零值权重指派给所述第一多个集群或者将所述至少一个第二子区块的所述非零值权重指派给所述单个集群。