[发明专利]基于增量学习的图像分类方法及系统有效
申请号: | 202011204941.9 | 申请日: | 2020-11-02 |
公开(公告)号: | CN112559784B | 公开(公告)日: | 2023-07-04 |
发明(设计)人: | 廖丹萍 | 申请(专利权)人: | 浙江智慧视频安防创新中心有限公司 |
主分类号: | G06F16/55 | 分类号: | G06F16/55;G06V10/764;G06V10/774;G06V10/74;G06V10/82;G06N3/096 |
代理公司: | 北京辰权知识产权代理有限公司 11619 | 代理人: | 刘广达 |
地址: | 311215 浙江省杭州市*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 增量 学习 图像 分类 方法 系统 | ||
本申请实施例中提供了一种基于增量学习的图像分类方法、系统及计算机介质,选取旧分类模型的旧类别数据,以及新增量数据,构建增量学习数据集;构建增量学习新分类模型;输入增量学习数据集,至增量学习新分类模型,在增量学习损失函数约束下进行增量学习训练,得到训练后的增量学习新分类模型;输入待分类图像至训练后的增量学习新分类模型,进行图像分类,得到图像分类结果。本申请在旧类别数据基础上连同新类别的数据一起进行学习,在增量学习损失函数约束下实现了使旧类别的映射向量的相似度能够在增量学习的过程中保持一致,进而在学习新类别的信息同时,保持了对旧类别的测试数据的分类性能。
技术领域
本申请属于图像分类技术领域,具体地,涉及一种基于增量学习的图像分类方法及系统。
背景技术
增量学习是机器学习的一个重要研究课题,增量学习的目标是在不忘记已经学习到的知识的基础上,不断地通过新的数据学习新的知识。计算机视觉的很多现实应用都需要模型具备增量学习的能力。比如,人脸识别系统应该支持添加新的人脸数据,同时不应该降低其在旧的人脸数据上的学习性能。又比如,无人超市中的商品识别系统应该不断学习新增加的商品的知识,同时保持原有商品的识别准确率。增量学习和全量学习(即模型在所有新旧数据上重新训练)相比,增量学习的特点是,新的模型不再在旧的大数据上重新训练,而只在新添加的数据上对原有模型进行适当调整后进行训练。然而,目前大多数利用深度学习进行分类的方法在增量学习的过程中都会遭遇“灾难性遗忘”的问题,即在学习新类别的信息后,模型在旧类别的测试数据上的性能大幅度降低。
图像分类的神经网络通常包括两个部分:特征提取子网络和分类子网络。其中,特征提取网络将输入图像传入一系列的特征提取层后,最终输出提取的特征。分类网络通常是一个全连接层,将特征提取网络提取的特征输入分类字网路后,输出类别概率。常规的增量学习的过程中,通常不改变特征提取网络的结构,仅仅根据新数据的类别,增加全连接层的输出类别数量。由于模型不再在旧类别数据上训练,而只在新的类别上进行训练,因此全连接层倾向于在新的类别上给予很高的预测值。这就导致预测旧的类别的数据时,模型也同样会给新类别很高的分数,导致预测失败。同时,特征提取器提取的特征也更偏向于提取对新的类别更有区分性的特征,因此新学习的特征在旧类别的区分性随着增量学习的过程下降。因此,现有增量学习存在灾难性遗忘的问题。
因此,亟需一种增量学习方法在增量学习过程中,同时可以保留旧类别数据的知识,保证对旧数据的分类效率。
发明内容
本发明提出了一种基于增量学习的图像分类方法及系统,旨在解决现有现有增量学习存在灾难性遗忘,模型在学习新类别的信息后,对旧类别的测试数据的性能大幅度降低的问题。
根据本申请实施例的第一个方面,提供了一种基于增量学习的图像分类方法,具体包括以下步骤:
选取旧分类模型的旧类别数据,以及新增量数据,构建增量学习数据集;
构建增量学习新分类模型;
输入增量学习数据集,至增量学习新分类模型,在增量学习损失函数约束下进行增量学习训练,得到训练后的增量学习新分类模型;
输入待分类图像至训练后的增量学习新分类模型,进行图像分类,得到图像分类结果。
在本申请一些实施方式中,构建增量学习新分类模型具体包括:
将旧分类模型的特征提取网络,作为增量学习新分类模型的特征提取网络;
在旧分类模型的分类网络的输出端,添加新增类别数量的维度后,作为增量学习新分类模型的分类网络。
在本申请一些实施方式中,增量学习损失函数具体包括交叉熵损失函数、蒸馏损失函数以及相似度矩阵的一致性损失函数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江智慧视频安防创新中心有限公司,未经浙江智慧视频安防创新中心有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011204941.9/2.html,转载请声明来源钻瓜专利网。
- 彩色图像和单色图像的图像处理
- 图像编码/图像解码方法以及图像编码/图像解码装置
- 图像处理装置、图像形成装置、图像读取装置、图像处理方法
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序以及图像解码程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序、以及图像解码程序
- 图像形成设备、图像形成系统和图像形成方法
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序