[发明专利]用于轻量化神经网络的结构化剪枝方法、装置、介质及设备

说明书

本发明公开了一种用于轻量化神经网络的结构化剪枝方法,包括：根据神经网络中待剪枝的目标层中的三维张量Filter构建相似度矩阵；基于谱聚类对所述相似度矩阵对应的三维张量Filter进行聚类，得到多个聚类簇；确定每个聚类簇的质心以及同一聚类簇中每个三维张量Filer与所述质心的距离；删除与质心距离超过设定阈值对应的三维张量Filter，得到目标神经网络模型。本发明作为结构化剪枝方法，经过结构化剪枝后的神经网络的权值矩阵之间不存在非结构化稀疏现象，可以直接利用现有的软硬件进行加速，且可以很自然的与其它轻量化神经网络技术，如知识蒸馏、权值量化等联合使用以进一步减少网络冗余。

技术领域

本发明涉及网络压缩技术领域，具体涉及一种用于轻量化神经网络的结构化剪枝方法、装置、介质及设备。

背景技术

神经网络模型作为深度学习的技术载体，在诸多领域大幅度地刷新了传统信号处理方法的性能精度。随着深度学习任务越来越复杂，神经网络模型的层数在逐渐增加，宽度也在不断变大。拓扑结构日益复杂的神经网络模型或许可以在拥有昂贵图形处理单元(Graphics Processing Unit，GPU)的服务器上高效运行；但是因为其拥有庞大的参数复杂度和运算复杂度，很难在资源受限的移动终端设备上稳定运行。然而，随着移动智能社会的来临，手机、可穿戴设备、车载等移动终端应用对神经网络的需求越来越多。因此，减小神经网络模型的存储大小和提升运算速度成了亟待解决的问题。网络剪枝作为一类典型的轻量化神经网络算法，可以解决上述问题。现有的网络剪枝大体可以分为非结构剪枝方法和结构化剪枝方法。

非结构化网络剪枝方法(如图1所示)是在神经网络模型的Weight层次(0维张量)或者Vector层次(1维张量)上进行，因为剪枝粒度较小，可以实现较大的模型压缩比例，但要实现真正意义上的加速需要定制的软硬件支持，因此应用场景较少。结构化剪枝方法(如图1所示)是在神经网络模型的Kernel层次(2维张量)或者Filter层次(3维张量)上进行，因为剪枝粒度较大，可能会导致错误剪枝、过多剪枝或者过少剪枝等现象。

现有的结构化剪枝方法基本上是通过重要性准则去发现神经网络的冗余，而神经网络因为内部不可解释的黑箱子特性，结构化参数的重要性准则实际上很难获得，这在很大程度上影响了剪枝性能。

发明内容

鉴于以上所述现有技术的缺点，本发明的目的在于提供一种用于轻量化神经网络的结构化剪枝方法、装置、介质及设备，用于解决现有技术中的至少一个缺陷。

为实现上述目的及其他相关目的，本发明提供一种用于轻量化神经网络的结构化剪枝方法，包括：

根据神经网络中待剪枝的目标层中的三维张量Filter构建相似度矩阵，所述相似度矩阵中的每个元素表示任意两个三维张量之间的相似度；

基于谱聚类对所述相似度矩阵对应的三维张量Filter进行聚类，得到多个聚类簇；

确定每个聚类簇的质心以及同一聚类簇中每个三维张量Filer与所述质心的距离；

删除与质心距离超过设定阈值对应的三维张量Filter，得到目标神经网络模型。

可选地，在对Filter进行聚类时，将三维张量Filter映射到高维度的特征空间上，并在所述高维度的特征空间上对Filter进行聚类。

可选地，所述基于谱聚类对所述相似度矩阵对应的三维张量Filter进行聚类，包括：

基于所述相似度矩阵，以所述三维张量Filter作为节点，三维张量Filter之间的相似度作为边，构建一个无向全连接图；

对所述无向全连接图进行切分，得到多个子图，每个子图对应一个聚类簇。

可选地，所述对所述无向全连接图进行切分，得到多个子图，包括：

构建切图模型，所述切图模型为：