[发明专利]卷积神经网络模型的压缩方法及装置

权利要求书

1.一种卷积神经网络模型的压缩方法，所述卷积神经网络模型包括至少一个卷积层，所述卷积层包括多个卷积核，每个所述卷积核包括多个与输入通道对应的切片，多个所述卷积核被划分为多个卷积核单元，每个所述卷积核单元包括相邻的至少两个所述卷积核；针对每个所述卷积核单元，该卷积核单元沿卷积核的输入通道的延伸方向被划分为多个切片单元，每个切片单元包括至少两个切片组，该切片单元的所述切片组与对应的该卷积核单元的卷积核一一对应，所述切片组包括对应的卷积核的至少一个切片；

所述压缩方法包括：

获取每个所述切片单元对应的目标掩码信息；

利用所述目标掩码信息对对应切片单元的每个所述切片组进行稀疏化处理，以得到压缩后的所述卷积神经网络模型。

2.根据权利要求1所述的压缩方法，其中在得到压缩后的所述卷积神经网络模型之后，所述压缩方法还包括：

将压缩后的卷积神经网络模型中所有未被稀疏掉的权重存储至预设的权重缓存器中。

3.根据权利要求2所述的压缩方法，其中对于包含未被稀疏掉的权重的切片组，该切片组的所有未被稀疏掉的权重包括至少一个权重组，该权重组包含沿输入通道的延伸方向依次设置的映射位置相同的至少一个权重，该至少一个权重中每个权重对应该切片组中的一个切片；

所述权重缓存器包括多个存储单元，每个存储单元对应存储一压缩后的卷积核单元，所述存储单元包括阵列排布的多个内存区，每一列内存区对应存储所在存储单元对应的卷积核单元的一个卷积核；

在每一列内存区中，对应的卷积核的沿输入通道的延伸方向依次设置的各切片组，沿列方向依次存储于该列内存区中；在每一列内存区中，针对对应的卷积核的每个切片组，该切片组的各权重组沿列方向依次存储于该列内存区的各内存区中，且该列内存区的每一内存区对应存储该切片组的一个权重组；

位于同一行内存区的各权重组，在各自对应的切片组上的相对位置对应相同；

在每个内存区中，对应的权重组中沿输入通道的延伸方向依次设置的各权重，以存储地址依次递增的方式连续存储于该内存区；且沿行方向上依次设置的各内存区的存储地址依次递增，沿列方向上依次设置的各内存区的存储地址依次递增。

4.根据权利要求1所述的压缩方法，其中存在至少两个所述切片单元所对应的所述目标掩码信息不同。

5.根据权利要求1所述的压缩方法，其中所述获取每个所述切片单元对应的目标掩码信息，包括：

针对每个所述切片单元，随机初始化设置一对应的掩码信息；

利用该切片单元对应的当前掩码信息对对应的该切片单元中的每个切片组进行稀疏化处理；

在所有切片单元均进行稀疏化处理之后，得到当前掩码信息组和当前的卷积神经网络模型，当前掩码信息组包含各所述切片单元对应的当前掩码信息；

利用训练数据训练当前的卷积神经网络模型，并更新每个所述切片单元对应的掩码信息；

根据预设的目标函数判断当前的卷积神经网络模型是否收敛至最优解，所述目标函数中包含当前掩码信息组对应的正则项；

在判断出当前的卷积神经网络模型未收敛至最优解的情况下，将更新后的掩码信息作为当前掩码信息，执行所述利用该切片单元对应的当前掩码信息对对应的该切片单元中的每个切片组进行稀疏化处理的步骤；

在判断出当前的卷积神经网络模型已收敛至最优解的情况下，将当前掩码信息作为目标掩码信息，获得最终的掩码信息组，最终的掩码信息组包括各所述切片单元对应的目标掩码信息。

6.根据权利要求5所述的压缩方法，其中每个所述切片组中的每个切片对应一权重矩阵，所述权重矩阵由多个权重构成，所述掩码信息为由0和/或1构成的掩码矩阵，所述掩码矩阵中的每一个元素与所述权重矩阵中的每一个权重一一对应设置。