[发明专利]模型压缩方法、装置、计算机设备及存储介质

说明书

本发明涉及人工智能技术领域，尤其涉及一种模型压缩方法、装置、设备及存储介质。该模型压缩方法包括获取预先训练好的图像识别模型和待训练的第二骨干网络；将待测试图像输入至图像识别模型中进行测试，得到模型测试结果；根据模型测试结果，计算通道权重向量；将训练图像分别输入至第一骨干网络和第二骨干网络中进行特征提取，得到第一骨干网络输出的第一特征图和第二骨干网络输出的第二特征图；基于第一特征图、第二特征图以及通道权重向量，计算模型损失；根据模型损失更新优化第二骨干网络，以得到压缩后的图像识别模型。该模型压缩方法有效目前模型压缩需要对整个人工智能模型进行蒸馏压缩的效率低且通用性不高的问题。

技术领域

本发明涉及人工智能技术领域，尤其涉及一种模型压缩方法、装置、计算机设备及存储介质。

背景技术

在人工智能领域模型生命周期通常可分为模型训练和模型推理两个环节。在模型训练环节，为追求模型具有更高的识别精准度，模型往往不可避免的存在冗余。而在模型推理环节，由于受到不同的推理应用环境的影响，除了需要关注模型的精准度的同时，还需要模型具有推理速度快、资源占用小、文件尺寸小等高性能特点。

目前，模型压缩是将模型从模型训练环节向模型推理环节转变的常用优化手段。但当前模型压缩都是面向整个人工智能模型进行蒸馏压缩的，而不同的模型由于其应用场景复杂多样，因此在对不同的模型进行模型压缩时，还需要进行定制化开发压缩方案，效率低且通用性不高。

发明内容

本发明实施例提供一种模型压缩方法、装置、计算机设备及存储介质，以解决目前模型压缩的效率低且通用性不高的问题。

一种模型压缩方法，包括：

获取预先根据训练图像训练好的图像识别模型和待训练的第二骨干网络；其中，所述图像识别模型包括第一骨干网络；

将多个待测试图像输入至所述图像识别模型中进行测试，得到所述多个待测试图像对应的模型测试结果；

根据所述模型测试结果，计算通道权重向量；其中，所述通道权重向量用于描述所述第一骨干网络输出的特征图所对应的特征通道的重要性；

将所述训练图像分别输入至所述第一骨干网络和所述第二骨干网络中进行特征提取，得到所述第一骨干网络输出的第一特征图和所述第二骨干网络输出的第二特征图；

基于所述第一特征图、所述第二特征图以及所述通道权重向量，计算模型损失；

根据所述模型损失更新优化所述第二骨干网络，以得到压缩后的图像识别模型。

一种模型压缩装置，包括：

骨干网络获取模块，用于获取预先训练好的图像识别模型和待训练的第二骨干网络；其中，所述图像识别模型包括第一骨干网络；

模型测试模块，将多个待测试图像输入至所述图像识别模型中进行测试，得到所述多个待测试图像对应的模型测试结果；

通道权重计算模块，用于根据所述模型测试结果，计算通道权重向量；其中，所述通道权重向量用于描述所述第一骨干网络输出的特征图所对应的特征通道的重要性；

模型训练模块，用于将所述训练图像分别输入至所述第一骨干网络和所述第二骨干网络中进行特征提取，得到所述第一骨干网络输出的第一特征图和所述第二骨干网络输出的第二特征图；

模型损失计算模块，用于基于所述第一特征图、所述第二特征图以及所述通道权重向量，计算模型损失；

模型更新模块，用于根据所述模型损失更新优化所述第二骨干网络，以得到压缩后的图像识别模型。

一种计算机设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述模型压缩方法的步骤。