[发明专利]一种基于深度压缩的复数卷积神经网络压缩方法

权利要求书

1.一种基于深度压缩的复数卷积神经网络压缩方法，其特征在于：包括以下步骤：

1)网络修剪：

1.1)训练原始复数卷积神经网络，获得其连通性，得到其原始权值；

1.2)修剪小权值连接：首先设定一个阈值，对于复数网络，用复数权值的模与设定的阈值作比较，将权值低于给定阈值的连接都从网络中移除，即将复数权值的实部与虚部均设置为0，得到修剪后的权值；

1.3)重新训练网络来学习剩下稀疏网络的最终权值；

2)网络量化：对步骤1得到的修剪权值进行量化聚类，具体如下：

2.1)设置一个聚类数目K，并初始化簇的质心；

2.2)采用二维K均值聚类算法对每一层的权值进行聚类；

2.3)重新训练网络来学习量化后的网络的最终权值；

3)对量化过后的复数权值的实部和虚部分别进行Huffman编码，得到最终的压缩网络。

2.根据权利要求1所述的一种基于深度压缩的复数卷积神经网络压缩方法，其特征在于：所述步骤2.1中采用随机初始化方法、基于密度的初始化方法和线性初始化方法中的一种初始化簇的质心。

3.根据权利要求1所述的一种基于深度压缩的复数卷积神经网络压缩方法，其特征在于：所述步骤2.2中二维K均值聚类算法进行聚类具体为：使用欧氏距离测量，分割n个初始复数权值W＝{w₁,w₂,...,w_n}到K个簇C＝{c₁,c₂,...,c_k}，k>>n，来最小化簇中的平方和，其中复数权值的形式为w_i＝a_i+jb_i。

4.根据权利要求1所述的一种基于深度压缩的复数卷积神经网络压缩方法，其特征在于：所述步骤1完成后使用稀疏矩阵的存储方法压缩稀疏行或者压缩稀疏列来存储参数。