[发明专利]一种基于Crossbar架构的剪枝方法及系统

权利要求书

1.一种基于Crossbar架构的剪枝方法，其特征在于，包括：

对神经网络当前层待处理的权值矩阵进行不考虑架构因素的结构化剪枝，得到第一权值矩阵；所述权值矩阵为神经网络的权值矩阵；

根据所述第一权值矩阵的尺寸与crossbar的尺寸，确定剪枝方案；所述剪枝方案包括：基于区块的结构化剪枝、交叉阵列行剪枝和交叉阵列列剪枝；

根据所述剪枝方案对所述第一权值矩阵进行剪枝，得到第二权值矩阵，具体包括：

确定所述第一权值矩阵映射至加速器中的crossbar阵列时每个crossbar对应的权值分布矩阵；

当剪枝方案为基于区块的结构化剪枝时，将所述第一权值矩阵均匀划分为x*y个区块；所述区块的尺寸大于所述crossbar的尺寸，所述加速器中的crossbar阵列中被映射crossbar的个数为x*y；

按照所述crossbar的尺寸，对每个所述区块进行结构化剪枝，得到所述第二权值矩阵；

当剪枝方案为交叉阵列列剪枝时，确定每个crossbar对应的权值分布矩阵中每一列权值的列重要性度量因子；

将列重要性度量因子小于列阈值的列权值删除，并将所述权值分布矩阵中被删除列右侧的所有列左移至删除列所在的空白位置，得到所述第二权值矩阵；所述列阈值可调节；

当剪枝方案为交叉阵列行剪枝时，确定每个crossbar对应的权值分布矩阵中每一行权值的行重要性度量因子；

将行重要性度量因子小于行阈值的行权值删除，并将所述权值分布矩阵中被删除行下方的所有行上移至删除行所在的空白位置，得到所述第二权值矩阵；所述行阈值可调节；

所述第二权值矩阵用于映射至加速器中的crossbar阵列，通过所述加速器对所述神经网络进行加速。

2.根据权利要求1所述的基于Crossbar架构的剪枝方法，其特征在于，所述对神经网络当前层待处理的权值矩阵进行不考虑架构因素的结构化剪枝，得到第一权值矩阵，之后还包括：

根据所述当前层的第一权值矩阵对神经网络进行后处理，压缩所述神经网络。

3.根据权利要求2所述的基于Crossbar架构的剪枝方法，其特征在于，所述根据所述当前层的第一权值矩阵对神经网络进行后处理，压缩所述神经网络，具体包括：

当当前层的第k个滤波器被删除时，将当前层的下一层中第k个通道的权值删除；

当当前层的第k个通道被删除时，将当前层的上一层中第k个滤波器删除。

4.根据权利要求1所述的基于Crossbar架构的剪枝方法，其特征在于，所述根据所述第一权值矩阵的尺寸与crossbar的尺寸，确定剪枝方案，具体包括：

计算所述第一权值矩阵的宽度与所述crossbar的宽度之比，得到第一数值；

计算所述第一权值矩阵的高度与所述crossbar的高度之比，得到第二数值；

比较第一数值与比值阈值的大小关系以及第二数值与比值阈值的大小关系；

当第一数值大于比值阈值且第二数值大于比值阈值时，将所述基于区块的结构化剪枝确定为剪枝方案；

当第一数值大于比值阈值且第二数值不大于比值阈值时，将所述交叉阵列列剪枝确定为剪枝方案；

当第一数值不大于比值阈值且第二数值大于比值阈值时，将所述交叉阵列行剪枝确定为剪枝方案；

当第一数值小于比值阈值且第二数值小于比值阈值时，将所述交叉阵列列剪枝或所述交叉阵列行剪枝确定为剪枝方案。

5.根据权利要求1所述的基于Crossbar架构的剪枝方法，其特征在于，根据所述剪枝方案对所述第一权值矩阵进行剪枝，得到第二权值矩阵，之后还包括：

采用XRST模块记录所述第二权值矩阵的行稀疏性；所述XRST模块位于所述crossbar的外围电路中，所述XRST模块用于根据所述第二权值矩阵的行稀疏性将被删除的行对应的输入跳过；

采用XCST模块记录所述第二权值矩阵的列稀疏性；所述XCST模块位于所述crossbar的外围电路中，所述XCST模块用于根据所述第二权值矩阵的列稀疏性将被删除的列对应的输出位置插入0，以复原所有输出的真实位置。