[发明专利]模型压缩方法、装置、计算机设备及存储介质有效
申请号: | 201910218338.7 | 申请日: | 2019-03-21 |
公开(公告)号: | CN109934300B | 公开(公告)日: | 2023-08-25 |
发明(设计)人: | 王文全;葛彦昊;曹赟;李季檩;李绍欣;汪铖杰;陈超 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06V10/774 | 分类号: | G06V10/774;G06V10/74;G06V40/16 |
代理公司: | 北京三高永信知识产权代理有限责任公司 11138 | 代理人: | 张所明 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 模型 压缩 方法 装置 计算机 设备 存储 介质 | ||
本发明公开了一种模型压缩方法、装置、计算机设备及存储介质,属于图像技术领域。本发明通过对特征通道数小于第一识别模型的第二初始模型进行训练,删除训练得到的第二识别模型的目标转化层,最终得到目标识别模型,该目标识别模型的复杂度降低,对计算机设备的运算性能要求也降低,从而提高了识别模型进行脸部图像识别的适用性。且,在训练过程中通过目标转化层保证压缩后的第二初始模型与第一识别模型的特征通道数一致,尽可能的减小了模型压缩所损失的性能,从而在降低模型复杂度前提下,同时保证了压缩后的识别模型的识别准确率。
技术领域
本发明涉及图像技术领域,特别涉及一种模型压缩方法、装置、计算机设备及存储介质。
背景技术
随着图像技术的发展,神经网络因其强大的拟合能力和卓越的图像处理性能,在人工智能领域中得到广泛应用,例如,利用神经网络对人脸图像进行识别。神经网络的复杂度越高,输出的结果也越准确。然而,复杂度越高的神经网络,计算量越大,内存消耗也越多,因而,通常会对神经网络进行压缩,利用压缩后的神经网络对人脸图像进行识别。
相关技术中,为了得到更简化的识别模型,服务器可以通过下述模型训练方式来压缩模型,首先对一个复杂度较高的识别模型进行缩减,例如,将某个特征层中32个特征通道缩减至16通道,以得到一个复杂度较低的识别模型,再分别基于上述两个模型对同一样本图像的输出,对复杂度较低的识别模型进行训练,得到最终的识别模型。
上述过程实际上仅是通过删除特征层中的通道来压缩模型,导致模型本身的性能损失较大;且,基于具有不同特征通道数的特征层的输出进行训练,使得训练过程存在误差,从而导致压缩后识别模型的识别准确率较低。
发明内容
本发明实施例提供了一种模型压缩方法、装置、计算机设备及存储介质,能够解决识别准确率较低的问题。所述技术方案如下:
一方面,提供了一种模型压缩方法,所述方法包括:
基于用于进行脸部识别的第一识别模型,获取第二初始模型;
基于所述第一识别模型,对所述第二初始模型进行训练,得到第二识别模型;
删除所述第二识别模型中的所述目标转化层,得到目标识别模型,以实现对所述第一识别模型的压缩;
所述第二初始模型的第一特征层中的特征通道数小于所述第一识别模型的第一特征层的特征通道数,且,所述第二初始模型包括目标转化层,所述目标转化层用于将所述第二初始模型的第一特征层的特征数转化为所述第一识别模型的第一特征层的特征通道数。
另一方面,提供了一种模型压缩装置,所述装置包括:
初始模型获取模块,用于基于用于进行脸部识别的第一识别模型,获取第二初始模型;
训练模块,用于基于所述第一识别模型,对所述第二初始模型进行训练,得到第二识别模型;
删除模块,用于删除所述第二识别模型中的所述目标转化层,得到目标识别模型,以实现对所述第一识别模型的压缩;
所述第二初始模型的第一特征层中的特征通道数小于所述第一识别模型的第一特征层的特征通道数,且,所述第二初始模型包括目标转化层,所述目标转化层用于将所述第二初始模型的第一特征层的特征数转化为所述第一识别模型的第一特征层的特征通道数。
另一方面,提供了一种计算机设备,所述计算机设备包括一个或多个处理器和一个或多个存储器,所述一个或多个存储器中存储有至少一条指令,所述至少一条指令由所述一个或多个处理器加载并执行以实现如上述的模型压缩方法所执行的操作。
另一方面,提供了一种计算机可读存储介质,所述存储介质中存储有至少一条指令,所述至少一条指令由处理器加载并执行以实现如上述的模型压缩方法所执行的操作。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910218338.7/2.html,转载请声明来源钻瓜专利网。