[发明专利]神经网络压缩方法、装置、设备及计算机可读存储介质

权利要求书

1.一种神经网络压缩方法，其特征在于，所述方法包括以下步骤：

对待压缩神经网络中的卷积核进行池化操作，得到所述卷积核对应的池化值；

将所述池化值进行整型量化操作得到整型值；

将所述卷积核中对应整型值为目标值的卷积核进行裁剪以对所述待压缩神经网络进行压缩。

2.如权利要求1所述的神经网络压缩方法，其特征在于，所述目标值为预设第一数值，所述将所述池化值进行整型量化操作得到整型值的步骤包括：

检测所述池化值是否大于零；

若所述池化值小于或等于零，则将所述预设第一数值作为所述池化值对应的整型值；

若所述池化值大于零，则将预设第二数值作为所述池化值对应的整型值。

3.如权利要求1所述的神经网络压缩方法，其特征在于，所述将所述卷积核中整型值为目标值的卷积核进行裁剪以对所述待压缩神经网络进行压缩的步骤之后，还包括：

获取所述待压缩神经网络中全连接层的输出数据，其中，所述输出数据为将预设数据集输入所述待压缩神经网络后，通过所述全连接层得到的；

对所述输出数据的各元素分别进行整型量化操作得到整型值；

将所述输出数据各元素中对应整型值为所述目标值的元素作为目标元素，将所述目标元素所关联的所述全连接层中的神经元进行裁剪，以对所述待压缩神经网络进行压缩。

4.如权利要求1至3任一项所述的神经网络压缩方法，其特征在于，所述对待压缩神经网络中的卷积核进行池化操作，得到所述卷积核对应的池化值的步骤之前，还包括：

获取本轮模型更新的基准神经网络，将所述基准神经网络的副本作为所述待压缩神经网络；

所述将所述卷积核中对应整型值为目标值的卷积核进行裁剪以对所述待压缩神经网络进行压缩的步骤之后，还包括：

将压缩后的待压缩神经网络作为压缩网络，并采用预设数据集对所述压缩网络进行模型参数更新，得到更新后的压缩网络；

采用更新后的压缩网络中的模型参数对所述基准神经网络中的模型参数进行更新，以完成本轮模型更新。

5.如权利要求1至3任一项所述的神经网络压缩方法，其特征在于，所述方法应用于参与联邦学习的参与方，所述对待压缩神经网络中的卷积核进行池化操作，得到所述卷积核对应的池化值的步骤之前，还包括：

获取本轮联邦学习模型更新的基准神经网络，其中，所述基准神经网络包括私有网络和公共网络；

对所述基准神经网络进行复制得到网络副本，并将所述网络副本中的私有网络作为所述待压缩神经网络；

所述将所述卷积核中对应整型值为目标值的卷积核进行裁剪以对所述待压缩神经网络进行压缩的步骤之后，还包括：

将包含压缩后的待压缩神经网络的网络副本作为压缩网络，并采用所述压缩网络参与本轮联邦学习模型更新得到更新后的压缩网络；

采用更新后的压缩网络中的模型参数对所述基准神经网络中的模型参数进行更新，以完成本轮联邦学习模型更新。

6.如权利要求5所述的神经网络压缩方法，其特征在于，所述采用所述压缩网络参与本轮联邦学习模型更新得到更新后的压缩网络的步骤包括：

采用预设数据集对所述压缩网络进行模型参数更新，得到所述压缩网络中私有网络对应的第一梯度和公共网络对应的第二梯度；

将所述第二梯度发送给参与联邦学习的协调方，以供所述协调方在对各参与方发送的第二梯度进行全局融合后得到全局梯度并返回；

采用从所述协调方接收到的全局梯度更新所述压缩网络中的公共网络，采用所述第一梯度更新所述压缩网络中的私有网络，以更新所述压缩网络。

7.如权利要求5所述的神经网络压缩方法，其特征在于，所述预设数据集是图像数据集，所述采用更新后的压缩网络中的模型参数对所述基准神经网络中的模型参数进行更新，以完成本轮联邦学习模型更新的步骤之后，还包括：

当检测到更新后的基准神经网络满足预设模型条件时，将更新后的基准神经网络作为目标神经网络；

将待分类图像数据输入所述目标神经网络进行分类处理，得到所述待分类图像数据的分类结果。