[发明专利]模型压缩方法、装置、计算机设备及存储介质在审
申请号: | 202011007728.9 | 申请日: | 2020-09-23 |
公开(公告)号: | CN112132278A | 公开(公告)日: | 2020-12-25 |
发明(设计)人: | 郑强;王晓锐;高鹏;王俊;李葛;谢国彤 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04;G06N3/063 |
代理公司: | 深圳国新南方知识产权代理有限公司 44374 | 代理人: | 周雷 |
地址: | 518000 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模型 压缩 方法 装置 计算机 设备 存储 介质 | ||
1.一种模型压缩方法,其特征在于,包括:
获取预先根据训练图像训练好的图像识别模型和待训练的第二骨干网络;其中,所述图像识别模型包括第一骨干网络;
将多个待测试图像输入至所述图像识别模型中进行测试,得到所述多个待测试图像对应的模型测试结果;
根据所述模型测试结果,计算通道权重向量;其中,所述通道权重向量用于描述所述第一骨干网络输出的特征图所对应的特征通道的重要性;
将所述训练图像分别输入至所述第一骨干网络和所述第二骨干网络中进行特征提取,得到所述第一骨干网络输出的第一特征图和所述第二骨干网络输出的第二特征图;
基于所述第一特征图、所述第二特征图以及所述通道权重向量,计算模型损失;
根据所述模型损失更新优化所述第二骨干网络,以得到压缩后的图像识别模型。
2.如权利要求1所述模型压缩方法,其特征在于,所述图像识别模型包括与所述第一骨干网络相连的掩膜层以及与所述掩膜层相连的识别网络。
3.如权利要求2所述模型压缩方法,其特征在于,所述将多个待测试图像输入至所述图像识别模型中进行测试,得到所述多个待测试图像对应的模型测试结果,包括:
采用所述第一骨干网络对每一所述待测试图像进行特征提取,输出每一所述待测试图像对应的测试特征图;其中,所述测试特征图包括多个特征通道;
采用所述掩膜层对每一所述测试特征图中的同一特征通道进行通道屏蔽处理,得到每一所述待测试图像对应的第三特征图;
采用所述识别网络对每一所述第三特征图进行识别,得到每一所述第三特征图对应的识别结果;
根据所述识别结果和所述待测试图像对应的真实结果,得到每一所述特征通道对应的测试结果分量;
将包含每一所述特征通道对应的测试结果分量的数据集,作为所述多个待测试图像对应的模型测试结果。
4.如权利要求3所述模型压缩方法,其特征在于,所述根据所述模型测试结果,计算通道权重向量,包括:
将所述模型测试结果中,所述测试结果分量的最大值与每一所述测试结果分量的差值作为第一差值;
将所述最大值与所述模型测试结果中所述测试结果分量的最小值的差值作为第二差值;
计算所述第一差值和所述第二差值的比值,并将所述比值与预定义的常数项进行加和处理,得到每一所述测试特征图对应的通道权重分量;
将包含每一所述测试特征图对应的通道权重分量的数据集,作为所述通道权重向量。
5.如权利要求3所述模型压缩方法,其特征在于,所述根据所述模型测试结果,计算通道权重向量,包括:
将所述模型测试结果中,所述测试结果分量的最大值与每一所述测试结果分量的差值作为第一差值;
将所述最大值与所述模型测试结果中所述测试结果分量的最小值的差值作为第二差值;
计算所述第一差值和所述第二差值的比值,以及计算所述比值与预置缩放因子的乘积;
对所述乘积与预定义的常数项进行加和处理,得到每一所述测试特征图对应的通道权重分量;
将包含每一所述测试特征图对应的通道权重分量的数据集,作为所述通道权重向量。
6.如权利要求1所述模型压缩方法,其特征在于,基于所述第一特征图、所述第二特征图以及所述通道权重向量,计算模型损失,包括;
采用预定义的损失函数对所述第一特征图与第二特征图进行计算,得到特征图损失;
基于所述通道权重向量,对所述特征图损失进行加权处理,得到所述模型损失。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011007728.9/1.html,转载请声明来源钻瓜专利网。