[发明专利]一种持续自监督学习的图像分类方法

说明书

本发明所要解决的技术问题是，一种持续自监督学习的图像分类方法，利用增广稳定性挑选各数据流中类别分布边界和中心的样本作为重演样本，以最大程度地减轻过拟合效应和灾难性遗忘；其次，提出对比连续性使网络尽可能多地捕捉数据流之间共享的信息以防止灾难性遗忘，同时尽可能多地剔除冗余信息以提升网络可塑性，增强其持续学习的能力。相比于随机采样的方式，该方法能够最大程度地减轻过拟合效应和灾难性遗忘；其次，在于利用对比连续性使网络尽可能多地保留与过去数据流之间共享的信息以防止灾难性遗忘，同时剔除在过去数据流中编码的冗余信息来提升网络可塑性，增强其持续学习的能力，提高图像分类性能。

技术领域

本发明涉及持续自监督学习技术，特别涉及持续自监督学习的图像分类技术。

背景技术

伴随着深度学习技术在计算机视觉中的发展和成熟，图像分类方法基本达到人类水平的表现。标准的强监督学习在训练神经网络时需要收集大量的数据，并且进行耗时耗力的人工标注。然而，在真实场景中，数据往往是随时间逐步收集的，并且很难对海量的数据进行人工标注。因此，为了满足真实场景对图像分类方法的要求，我们需要发展基于持续自监督学习的图像分类，其主要任务是根据给定的无人工标注的数据流，依次从每个数据流中学习有益的特征表示，要求学习的特征表示不仅能够编码对应数据流的信息，更重要的是还不能忘记已编码的之前数据流的信息，最后将学习到的特征表示迁移到目标数据集以完成图像分类任务。

目前，持续自监督学习中的抵抗灾难性遗忘策略有两类：第一类为在每个数据流中选取适当的样本作为重演样本，在后续数据流训练中，将重演样本加入训练以防止灾难性遗忘；第二类为在网络优化目标中添加一些正则化技术，例如知识蒸馏(KnowledgeDistillation)，使得网络在后续数据流训练中能够与之前状态在某种程度上保持一致性。第一类方法中，由于重演样本只是过去数据流的采样，因此容易使网络过拟合到重演样本上，从而导致灾难性遗忘；第二类方法中，由于正则化项强制网络在学习当前数据流时与之前状态保持一致性，因此容易使网络可塑性受到限制，从而无法有效地编码当前数据流的信息。

发明内容

本发明所要解决的技术问题是，提供一种通过提高持续自监督学习的持续学习能力并且降低灾难性遗忘从而提供更好图像分类效果的方法。

本发明为解决上述技术问题所采用的技术方案是，一种持续自监督学习的图像分类方法，利用增广稳定性挑选各数据流中类别分布边界和中心的样本作为重演样本，以最大程度地减轻过拟合效应和灾难性遗忘；其次，提出对比连续性使网络尽可能多地捕捉数据流之间共享的信息以防止灾难性遗忘，同时尽可能多地剔除冗余信息以提升网络可塑性，增强其持续学习的能力，具体包括以下步骤：

第1步：初始化特征提取网络，采用损失函数对第一图像数据流的自监督对比学习进行约束，完成特征提取网络的初始训练；

其中，cos为余弦相似度，h为预测头，f_θ为当前特征提取网络，和分别两个不同的增广策略，x为输入图像样本；特征提取网络输出成对特征z₁和z₂；第一图像数据流为输入的图像样本；训练后的图像数据流作为已训练图像数据流；

第2步：利用判别器来推断数据流中每个样本的增广稳定性得分，根据增广稳定性得分对已训练图像数据流的增广稳定性进行从大到小排序；

第3步：根据排序在前的样本选择为重演样本；

第4步：通过丢弃重演存储器中各任务的增广稳定性排序位于中间的重演样本，再存入最新的重演样本以完成重演存储器的更新；

第5步：采用对比连续性损失再结合损失函数对当前图像数据流自监督对比学习进行约束，完成当前特征提取网络的训练；