[发明专利]基于深度学习及多聚类中心损失函数的摊贩物品分类方法

说明书

基于深度学习及多聚类中心损失函数的摊贩物品分类方法，涉及人工智能以及计算机视觉技术领域。本发明方法步骤为：1）网络结构设计：整理摊贩物品样本，并对其进行类别标定。2）目标损失函数。3）模型预测：利用训练好的模型进行预测。同现有技术相比，本发明一方面进一步提高深度学习模型在复杂的摊贩物品分类中的性能，以及在训练样本不是很充足的情况下，避免模型过拟合；另一方面，充分利用类内、类间离散度信息，使模型有更好的泛化能力，进一步提升深度学习模型在摊贩物品分类中的性能。

技术领域

本发明涉及人工智能以及计算机视觉技术领域，特别是基于深度学习及多聚类clustering中心损失函数loss function的应用于城市摊贩复杂无序物品的分类方法。

背景技术

图像分类是计算机视觉研究中最基本的问题，是后续高层次视觉任务的基础。

现有技术中，图像分类一般由图像特征提取、分类器分类两大部分组成。特征都是靠手工设计的提取算法提取，常用的有HOG、SIFT、SURF等经典的特征提取算法。之后，将提取的图像特征送入后续的分类器进行分类，经典的分类器有MLP、SVM、随机森林等。上述传统的图像分类算法在一些特定的应用领域中取得了一定成功，比如车牌识别等，但随着大数据的出现以及图像复杂性的提高，传统图像分类方法在处理这类问题时已经不再适应。

随着越来越丰富的数据集的出现以及计算能力的提升，深度学习技术迎来了巨大的发展。2012年的ImageNet竞赛中，Krizhevsky等人训练了一个大型的深度卷积神经网络AlexNet，它包含了8个学习层：5个卷积层和3个全连接层。Krizhevsky等人成功借助了ImageNet这个足够大的数据集，并结合随机梯度下降SGD和Dropout等优化技巧，成功训练了一个深度卷积网络，实现了top-5的错误率为15.3%的好成绩，最终赢得了2012年的ILSVRC竞赛的冠军。从此大量的研究人员开始进入这个领域，也迎来了网络结构的一系列变革。2013年的ZFNet错误率降到了11.2%。2014年Christian Szegedy等人设计的GoogLeNet是一个22层的卷积神经网络，在ILSVRC2014上top-5的错误率降到了6.7%。2015年，微软亚洲研究院的Kaiming He等人设计了一个多达152层的ResNet架构，它比之前的深度神经网络都深，但却降低了复杂度，从而更易于训练，ResNet的错误率也降到了3.6%。而人类的水平也仅仅是5%-10%，由此可见，深度学习网络已经跟人类的分辨能力相当了。所有这些网络的改进都是其结构上的改进，随着研究的进一步深入，人们也开始关注到深度学习中普遍采用的softmax分类损失函数没有考虑类内、类间离散度信息，只是单纯的考虑分类信息，针对这个问题也提出了各种改进措施。

ICML2016提出的Large Margin Softmax Loss(L-softmax)通过在传统的softmaxloss公式中添加参数m，

作者在论文中的定义为：

，其中。

L-softmax函数加大了学习的难度，逼迫模型不断学习更具区分性的特征，从而使得类间距离更大，类内距离更小，借用SVM的思想来理解的话，如果原来的softmax loss是只要支持向量和分类面的距离大于h，分类效果就算比较好了，那么L-softmax loss就是需要距离达到m*h(m是正整数)才算分类效果比较好了。该方法的缺点是训练难度比较大，需要反复调参。

ECCV2016上发表的一篇文章，A Discriminative Feature Learning Approachfor Deep Face Recognition针对softmax函数在人脸识别中的缺点，提出了center loss函数，通过将特征和特征中心的距离和softmax loss一同作为损失函数，使得类内距离更小，其实也是正则化的一种实现方式。先看看center loss的公式Lc: