[发明专利]通道顺序切换自监督提升长尾分布视觉识别能力的方法有效
申请号: | 202110634205.5 | 申请日: | 2021-06-07 |
公开(公告)号: | CN113435480B | 公开(公告)日: | 2022-06-21 |
发明(设计)人: | 范峻植;徐行;沈复民;邵杰 | 申请(专利权)人: | 电子科技大学 |
主分类号: | G06V10/774 | 分类号: | G06V10/774;G06V10/764;G06K9/62;G06N20/00 |
代理公司: | 成都弘毅天承知识产权代理有限公司 51230 | 代理人: | 孟仕杰 |
地址: | 611731 四川省成*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 通道 顺序 切换 监督 提升 长尾 分布 视觉 识别 能力 方法 | ||
本发明涉及计算机视觉领域,具体是通道顺序切换自监督提升长尾分布视觉识别能力的方法,包括两个阶段,自监督训练和有监督训练。准备数据集;将数据集中的图片进行预处理,包括对图片进行重采样处理和对图片进行随机通道顺序的变换;将预处理后的图片用于通道切换自监督训练,将通道顺序名称作为真实的标签计算损失函数,不断迭代网络直至收敛,保存模型;将数据集中的图片进行预处理,包括对图片进行重采样处理和对图片进行数据增强;初始化有监督训练网络,将保存的模型作为有监督训练过程的预训练模型,将预处理后的图片输入模型中进行训练;不断迭代训练网络,计算损失函数,直至模型达到预期的识别分类效果;解决了长尾分布带来的问题。
技术领域
本发明涉及计算机视觉领域,具体是指通道顺序切换自监督提升长尾分布视觉识别能力的方法。
背景技术
随着科技不断地飞速发展,图像分类的效果已经取得了足够好的成果,这一成果和越来越丰富的数据集密不可分,在大部分理想情况下,所用的数据集的类别标签数量分布几乎都是均匀的,但是,真实世界中的数据大部分却是不均匀的,甚至呈现出长尾分布的情况,即少部分类占据了大部分样本数量,这部分类别称为头部类,而剩下的类别只占有很少的样本数量,这部分类别称为尾部类。
现有的比较常用的处理长尾分布视觉识别的方法包含重采样和重权重,重采样本质是对不同类别的图片采样频率根据样本数量进行反向加权,如果属于当前类的图片数量越多,则赋予当前类的图片的采样概率就越低,相反的情况下,对应的采样概率就越高;重权重则主要体现在分类的损失上,即给头部类的损失更低的权重,给尾部类的损失更高的权重。
上述两种方法,尽管都能得到更好的预测结果,但这些方法仍会产生不良影响,即会在一定程度上损害深度特征的表征能力,现有的一些方法都存在一些缺陷,具体缺陷如下:
1.当不对长尾分布视觉识别问题采取任何措施的时候,长尾分布视觉识别就会表现出对头部类的分类效果较好,而对尾部类的效果较差,并且头部类和尾部类的图片数量的最大比例相差越大,模型对尾部类的分类识别效果就会越差。
2.当对长尾分布视觉识别数据集使用重采样策略时,即降低头部类别的采样概率,增加尾部类别的采样概率,这样虽然能缓解长尾分布视觉识别带来的问题,但是也会产生另外一个问题,尾部样本图片的采样概率变高,就会改变特征空间数据的分布,影响模型的识别分类效果。
发明内容
基于以上问题,本发明提供了通道顺序切换自监督提升长尾分布视觉识别能力的方法,解决了长尾分布带来的问题。
为解决以上技术问题,本发明采用的技术方案如下:
通道顺序切换自监督提升长尾分布视觉识别能力的方法,包括第一阶段的通道切换自监督训练过程和第二阶段的有监督训练过程,其中:
通道切换自监督训练过程包括:
步骤11、准备数据集;
步骤12、将数据集中的图片进行预处理,预处理包括对图片进行重采样处理和对图片进行随机通道顺序的变换;
步骤13、将步骤12预处理后的图片输入通道切换自监督网络,将通道顺序名称作为真实的标签计算损失函数,不断迭代通道切换自监督网络直至收敛,保存模型;
有监督训练过程包括:
步骤21、将步骤11中数据集中的图片进行预处理,预处理包括对图片进行重采样处理和对图片进行数据增强;
步骤22、初始化有监督训练网络,将步骤13保存的模型作为有监督训练过程的预训练模型;
步骤22、将步骤21中预处理后的图片输入有监督训练网络;
步骤23、不断迭代有监督训练网络,计算损失函数,直至有监督训练网络达到预期的识别分类效果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于电子科技大学,未经电子科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110634205.5/2.html,转载请声明来源钻瓜专利网。