[发明专利]一种基于模型蒸馏的图像类别识别方法、装置、存储介质及终端

说明书

本发明公开了一种基于模型蒸馏的图像类别识别方法、装置、存储介质及终端，该方法包括：获取待分类目标图像并输入预先训练的学生模型中，输出多个类别概率值；其中，预先训练的学生模型基于模型蒸馏法训练生成，模型蒸馏法训练生成是基于预先训练的教师模型内全连接层的不同类别分类映射向量之间的相似度训练生成，不同分类映射向量之间的相似度为不同分类映射向量之间夹角的余弦值；基于多个类别概率值识别待分类目标图像的目标类别。因此，本申请实施例通过采用基于预先训练的教师模型内全连接层的不同类别分类映射向量之间的相似度指导学生模型进行训练，使得学生模型也能学到和教师模型相似区分度的特征，由于学生模型结构简单以及参数少，从而提升了硬件平台的运行速度，进一步提高了图像分类效率。

技术领域

本发明涉及计算机视觉技术领域，特别涉及一种基于模型蒸馏的图像类别识别方法、装置、存储介质及终端。

背景技术

近年来，深度神经网络使得很多计算机视觉任务的性能达到了前所未有的高度。神经网络的模型结构越复杂，参数越多，网络能学习到的知识就越丰富，学习效果也越好。然而，高额的存储空间以及计算资源使得大网络模型难以应用在各类移动平台，因此，设计更加轻量化且兼顾性能的网络模型成为了计算机视觉算法落地应用的关键研究之一。

在现有技术中，模型轻量化通常采用模型压缩方法通过对大模型进行参数裁剪、权重分解或者采用模型蒸馏等方法，减小模型对于计算空间和时间的消耗。然而，现有技术中模型训练时未能有效利用类别之间分类映射向量的先验关系，从而，当利用训练出的模型进行图像分类时，分类结果不够准确。

发明内容

本申请实施例提供了一种基于模型蒸馏的图像类别识别方法、装置、存储介质及终端。为了对披露的实施例的一些方面有一个基本的理解，下面给出了简单的概括。该概括部分不是泛泛评述，也不是要确定关键/重要组成元素或描绘这些实施例的保护范围。其唯一目的是用简单的形式呈现一些概念，以此作为后面的详细说明的序言。

第一方面，本申请实施例提供了一种基于模型蒸馏的图像类别识别方法，该方法包括：

获取待分类目标图像；

将待分类目标图像输入预先训练的学生模型中，输出目标图像对应的多个类别概率值；

其中，预先训练的学生模型基于模型蒸馏法训练生成，模型蒸馏法训练生成是基于预先训练的教师模型内全连接层的不同类别分类映射向量之间的相似度训练生成，不同分类映射向量之间的相似度为不同分类映射向量之间夹角的余弦值；

基于多个类别概率值识别待分类目标图像的目标类别。

可选的，基于多个类别概率值识别待分类目标图像的目标类别，包括：

选择多个类别概率值中的最大类别概率值；

识别选择的最大类别概率值对应的目标类别；

将目标类别确定为待分类目标图像的所属类别。

可选的，预先训练的学生模型中至少包括特征提取层、全连接层以及归一化层；

将待分类目标图像输入预先训练的学生模型中，输出目标图像对应的多个类别概率值，包括：

将待分类目标图像输入特征提取层进行特征提取，生成目标特征；

将目标特征输入全连接层，输出目标图像对应的多个类别置信度；

将多个类别置信度输入归一化层，输出目标图像对应的多个类别概率值。

可选的，按照下述步骤生成预先训练的教师模型，包括：

采集多种类型的图像集生成模型训练样本；

创建教师模型；