[发明专利]一种利用分块循环矩阵的神经网络压缩方法

权利要求书

1.一种利用分块循环矩阵的神经网络压缩方法，其特征在于：包括以下步骤：

步骤1：通过读取神经网络中最长基础随机符号向量，在神经网络的每层截取该层所需长度的基础符号向量，扩展该层的基础符号向量至输入向量维度，根据符号向量的位置对输入向量做符号翻转，使符号向量与输入向量元素相乘得到新的输入向量；

步骤2：训练构成的新的块循环网络，存储最长基础随机符号向量和神经网络模型参数；

步骤3：根据输入特征图的稀疏度和信息丰富度，决定输入特征图的重要性。根据特征图的重要性去减少特征图上进行卷积的卷积核个数，对网络结构进行精简；

步骤4：采用细粒度算法对神经网络模型进行剪枝。

2.根据权利要求1所述的一种利用分块循环矩阵的神经网络压缩方法，其特征在于：

步骤1中所述的最长基础随机符号向量根据所有层输入特征向量的维度和分块大小确定。

3.根据权利要求1所述的一种利用分块循环矩阵的神经网络压缩方法，其特征在于：

步骤1中所述的符号向量生成步骤如下：

A：生成长度为n_sign的基础随机符号向量，其中n_sign的取值范围为区间[blocksize,n_x]。其中，基础随机符号向量的生成可以有多种方式：比如随机变量生成服从二项分布；

B：根据基础随机符号向量扩展出最后的随机符号向量。计算扩展操作次数block_sign＝n_x/n_sign+1；将基础随机符号向量按一定规则生成新的符号向量，重复block_sign次，得到n_x维符号向量：

其中：n_sign为符号向量的长度；

n_x为输入向量的维度：

n_sign为符号的数目：

block size代表块大小：

block_sign代表每一个块所对应的符号的指数。

4.根据权利要求1所述的一种利用分块循环矩阵的神经网络压缩方法，其特征在于：

步骤1中所述的扩展满足：按块大小划分扩展后的符号向量，相邻两个块的符号向量不可相同。

5.根据权利要求1所述的一种利用分块循环矩阵的神经网络压缩方法，其特征在于：

步骤4中所述的细粒度算法流程如下：

a：计算每个特征图对应卷积核的稀疏度；

b：计算每个特征图对应卷积核的密度熵；

c：计算每个特征图的重要性分数；

d：计算每个特征图需要的卷积核个数：

e：使用K-均值算法对每个特征图对应的卷积核进行聚类，得到聚类中心和索引值。