[发明专利]一种数据增广的深度半监督超限学习图像分类方法及系统有效
申请号: | 202110448092.X | 申请日: | 2021-04-25 |
公开(公告)号: | CN113077388B | 公开(公告)日: | 2022-08-09 |
发明(设计)人: | 曾宇骏;呼晓畅;徐昕;方强;周思航 | 申请(专利权)人: | 中国人民解放军国防科技大学 |
主分类号: | G06T3/40 | 分类号: | G06T3/40;G06V10/40;G06V10/774;G06V10/764;G06V10/80;G06V10/82;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 湖南兆弘专利事务所(普通合伙) 43008 | 代理人: | 谭武艺 |
地址: | 410073 湖南*** | 国省代码: | 湖南;43 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 增广 深度 监督 超限 学习 图像 分类 方法 系统 | ||
本发明公开了一种数据增广的深度半监督超限学习图像分类方法及系统,本发明方法包括针对训练图像采用深度卷积网络模型进行特征提取;基于部分人工标签数据微调优化深度卷积网络模型并为无标签的训练图像生成伪标签;将从训练图像提取得到的高层语义特征与低层浅层结构特征融合得到融合图像特征;采用随机线性插值技术对训练图像的融合图像特征与标签进行增广;针对增广后的融合图像特征与标签训练单隐层前馈神经网络并替代深度卷积网络模型中的全连接层得到最终的图像分类识别网络模型。本发明具有人工标记需求小、具有鲁棒的抗噪声干扰能力、分类识别性能良好、任务扩展性强的数据增广的优点。
技术领域
本发明涉及图像分类、目标识别技术领域,具体涉及一种数据增广的深度半监督超限学习图像分类方法及系统。
背景技术
当前性能较好的视觉目标识别方法大都采用深度学习技术,经常需要在大规模的人工标注数据上进行深度神经网络模型的有监督学习训练。但是,人工标记大量数据代价十分昂贵,对于某些应用场景甚至是不切实际的。近年来,相关研究更多集中在深度半监督学习技术上。深度半监督学习技术能够利用少量高质量的标记数据和大量易于获得的未标记数据来提高视觉目标分类识别方法的性能。目前已经有诸如基于熵最小化、伪标签、一致性正则化、预训练、生成模型等多种深度半监督学习技术被提出。
其中,最具代表性的常用技术主要有三种:
一是基于伪标签的深度半监督学习技术,其使用基于少量有人工标注标签的数据训练得到的模型的类预测结果作为未标记数据的伪标签,随后加入到人工标注数据中再次训练图像类别标签预测模型,再对伪标签数据进行标签更新,如此迭代反复直至达到可接收的图像分类精度效果。然而,由模型预测的标签可能存在噪声,加上数据本身也可能存在一定程度的噪声,常常使得基于这些样本进行训练所得到的图像分类模型出现模型退化的问题,图像分类精度难以满足现实应用需求;
二是基于一致的正则化的深度半监督学习技术,其会在不同的扰动下惩罚与未标记数据的不一致预测。由于采用了多种预测,因此该技术还将遇到噪声标签过拟合的问题。随后,提出了生成高质量的伪标签、生成有效扰动等各种技术来减轻过度拟合,但主要对噪声强度较小时有较为明显的性能改善,当噪声强度较大时,仍然无法达到可接受的效果;
三是基于预训练的深度半监督学习技术,其将特征表示和分类器分解为两个独立的阶段,即在应用分类器学习之前,对深度神经网络进行预训练,以通过无监督的辅助学习任务找到输入数据的压缩特征表示。该技术分别追求更好的特征表示模型和更好的分类器,并且在分析和缓解过拟合问题方面具有优势。但是该技术缺乏无监督辅助任务的标签指导,并且特征表示模型经常面临与最终任务不一致的风险。例如,自动编码器以重构原始图像全部像素点作为目标来引导图像特征表示的学习提取,而最终分类任务可能仅与图像中一小部分像素相关。除此之外,该技术还难以有效设置分类器,样本数据信息利用效率低,难以进行高效的学习训练。
发明内容
本发明要解决的技术问题:针对现有技术的上述问题,提供一种人工标记需求小、具有鲁棒的抗噪声干扰能力、分类识别性能良好、任务扩展性强的数据增广的深度半监督超限学习图像分类方法及系统。
为了解决上述技术问题,本发明采用的技术方案为:
一种数据增广的深度半监督超限学习图像分类方法,包括进行图像分类识别网络模型的学习和训练的下述步骤:
S1、针对训练图像采用深度卷积网络模型进行特征提取;针对训练图像的部分人工标签数据对深度卷积网络模型进行训练以实现微调优化,并通过微调优化后的深度卷积网络模型为无标签的训练图像预测生成相应的伪标签;
S2、将从训练图像提取得到的高层语义特征与低层浅层结构特征融合得到融合图像特征;
S3、采用随机线性插值技术对训练图像的融合图像特征与标签进行增广;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国人民解放军国防科技大学,未经中国人民解放军国防科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110448092.X/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置