[发明专利]抑制标签噪声的图像分类模型训练方法、分类方法及系统

权利要求书

1.一种抑制标签噪声的图像分类模型训练方法，其特征在于，包括如下步骤：

(1)将图像数据集中已标注的图像样本及其对应的类别标签划分为训练集和验证集；

(2)利用所述训练集对基于神经网络的图像分类模型进行有监督训练；所述图像分类模型采用softmax函数或者其变体函数作为输出层激活函数，采用类别交叉熵作为目标函数；

(3)遍历所述训练集，获得各图像样本经过所述图像分类模型前向传播后，目标函数关于所述图像分类模型输出层未经激活的神经元输出的一阶导数，作为对应图像样本的在所述图像分类模型输出层产生的梯度，并估计梯度模长分布的概率密度函数；

所述步骤(3)中，图像样本的在所述图像分类模型输出层产生的梯度的计算公式为：

所述步骤(3)中，梯度模长的计算公式为：

gradient_norm＝Sum(y*(1-P))

其中，g表示图像样本的在所述图像分类模型输出层产生的梯度；L表示所述图像分类模型的类别交叉熵，x表示图像样本在所述图像分类模型的输出层产生的未经激活的神经元输出；y表示图像样本的类别标签，p表示神经元输出x经过激活之后的神经网络预测输出，*表示元素乘；gradient_norm表示梯度模长，sum()表示将梯度进行元素求和；

(4)利用所述概率密度函数计算所述训练集中各图像样本被错误标定的概率，将概率大于预设阈值的图像样本划分到错误标定样本子集，将其余图像样本划分到正确标定样本子集；

(5)若所述错误标定样本子集不足以构成一个训练批次，则利用所述正确标定样本子集对所述图像分类模型进行有监督训练，以更新所述图像分类模型的参数；否则，舍弃所述错误标定样本子集中的类别标签后将其中的图像样本作为未标定样本使用，将所述正确标定样本子集中的图像样本作为已标定样本，结合半监督学习算法更新所述图像分类模型的参数；

(6)若所述图像分类模型还未在所述验证集上收敛，则转入步骤(3)；否则，训练结束。

2.如权利要求1所述的抑制标签噪声的图像分类模型训练方法，其特征在于，所述步骤(3)中，估计梯度模长分布的概率密度函数时，采用包含两个成分的混合分布对该概率密度函数进行拟合，拟合得到的概率密度函数形式如下：

其中，p(gradient_norm)表示梯度模长分布的概率密度函数；两个成分分别为正确标定样本成分和错误标定样本成分，k表示成分序号，λ_k表示第k个成分的混合系数，p(gradient_norm|k)表示关于梯度模长的第k个成分的分布。

3.如权利要求2所述的抑制标签噪声的图像分类模型训练方法，其特征在于，两个成分的混合分布中，各成分分布采用Beta分布。

4.如权利要求2所述的抑制标签噪声的图像分类模型训练方法，其特征在于，所述步骤(4)中，利用所述概率密度函数计算所述训练集中各图像样本被错误标定的概率，计算公式为：

其中，j表示错误标定样本成分的序号；i表示所述训练集中图像样本的序号，gradient_norm_i表示训练集中的第i个图像样本在图像分类模型输出层产生的梯度的模长，index表示训练集中的第i个图像样本被错误标定的概率。

5.如权利要求1所述的抑制标签噪声的图像分类模型训练方法，其特征在于，所述步骤(2)和步骤(5)中，在将图像样本输入所述图像分类模型之前，还包括：利用数据增强的手段对训练集或正确标定样本子集中的图像样本进行增强；

增强得到的图像样本仅作为训练样本，用于对神经网络参数进行更新；在估计梯度模长分布的概率密度函数时，不考虑增强得到的图像样本。

6.一种图像分类方法，其特征在于，包括：以待分类图像为输入，利用已训练好的图像分类模型预测所述待分类图像的类别；

其中，所述已训练好的图像分类模型由权利要求1-5任一项所述的抑制标签噪声的图像分类模型训练方法训练得到。