[发明专利]一种基于模型蒸馏的图像类别识别方法、装置、存储介质及终端

权利要求书

1.一种基于模型蒸馏的图像类别识别方法，其特征在于，所述方法包括：

获取待分类目标图像；

将所述待分类目标图像输入预先训练的学生模型中，输出所述目标图像对应的多个类别概率值；

其中，所述预先训练的学生模型基于模型蒸馏法训练生成，所述模型蒸馏法训练生成是基于预先训练的教师模型内全连接层的不同类别分类映射向量之间的相似度训练生成，所述不同分类映射向量之间的相似度为所述不同分类映射向量之间夹角的余弦值；

基于所述多个类别概率值识别所述待分类目标图像的目标类别。

2.根据权利要求1所述的方法，其特征在于，所述基于所述多个类别概率值识别所述待分类目标图像的目标类别，包括：

选择所述多个类别概率值中的最大类别概率值；

识别所述选择的最大类别概率值对应的目标类别；

将所述目标类别确定为所述待分类目标图像的所属类别。

3.根据权利要求1所述的方法，其特征在于，所述预先训练的学生模型中至少包括特征提取层、全连接层以及归一化层；

所述将所述待分类目标图像输入预先训练的学生模型中，输出所述目标图像对应的多个类别概率值，包括：

将所述待分类目标图像输入所述特征提取层进行特征提取，生成目标特征；

将所述目标特征输入所述全连接层，输出所述目标图像对应的多个类别置信度；

将所述多个类别置信度输入所述归一化层，输出所述目标图像对应的多个类别概率值。

4.根据权利要求1所述的方法，其特征在于，按照下述步骤生成预先训练的教师模型，包括：

采集多种类型的图像集生成模型训练样本；

创建教师模型；

将所述模型训练样本输入所述教师模型中进行训练后，生成训练后的教师模型；

将所述训练后的教师模型确定为预先训练的教师模型。

5.根据权利要求4所述的方法，其特征在于，按照下述步骤生成预先训练的学生模型，包括：

针对所述预先训练的教师模型内全连接层的不同类别分类映射向量构建第一相似度矩阵S_teacher∈R^k×k,k为类别数，R为实数；

创建学生模型；其中，所述学生模型的参数量小于所述教师模型的参数量；

针对所述学生模型内全连接层的不同类别分类映射向量构建第二相似度矩阵S_student∈R^k×k；

根据所述第一相似度矩阵S_teacher∈R^k×k与所述第二相似度矩阵S_teacher∈R^k×k构造所述学生模型的目标损失函数；

将所述目标损失函数关联至所述学生模型上，生成关联函数后的学生模型；

从所述模型训练样本中获取第n图像，并将所述第n图像输入所述关联函数后的学生模型中进行训练；

当所述模型的迭代训练次数小于预设值时，继续执行从所述模型训练样本中获取第n+1图像的步骤，并当所述n+1大于所述模型训练样本时，对所述模型训练样本中图像的顺序进行随机排列，并重置n＝1。

6.根据权利要求6所述的方法，其特征在于，所述针对所述预先训练的教师模型内全连接层的不同类别分类映射向量构建第一相似度矩阵，包括：

计算所述预先训练的教师模型内全连接层的不同类别分类映射向量之间夹角的余弦值，生成第一相似度矩阵；

以及，

计算所述学生模型内全连接层的不同类别分类映射向量之间夹角的余弦值，生成第二相似度矩阵；

其中，所述相似度矩阵计算公式为：

S_teacher(i，j)＝cosine(S_i，S_j)，其中，S_teacher(i，j)表示类别i的分类映射向量S_i与类别j的分类映射向量S_j之间分类映射向量夹角的余弦值。