[发明专利]一种面向环境变化的无监督迁移学习图像分类方法

说明书

本发明公开了一种面向环境变化的无监督迁移学习图像分类方法，获取待分类图片，若不存在面向应用环境的模型，则从学习环境迁移学习新模型；收集训练数据，初始化模型；在伪标签生成器上，计算有标签样本的分类损失以及学习环境和应用环境数据的分布偏移损失，并生成部分伪标签；设计多个联合分类器输出二维联合概率同时预测图片主任务和自监督任务标签，计算联合分类器的分类损失；在联合分类器输出中，对自监督任务标签的边际概率积分，得到不同的概念标签；计算应用环境样本的不同概念标签间的一致性损失；累加所有损失，用梯度反向传播更新参数；迭代训练至最大迭代次数；用所有联合分类器对待分类图片的概念标签均值来预测。

技术领域

本发明涉及一种面向环境变化的无监督迁移学习图像分类方法，属于图像分类技术领域。

背景技术

图像分类是最基础的人工智能应用场景之一，尤其是随着深度学习的发展，深度学习图像分类算法在自动驾驶、短视频个性化推荐，电商搜索等方面都有广泛的应用。深度学习图像分类系统，需要大量的有标签数据来进行监督学习，但是在很多实际应用环境中，给训练数据人工打标签的时间成本和经济成本都非常高。因此，在很多场景下只能从相似的学习环境中训练图像分类模型。比如在自动驾驶任务中，用汽车去真实的应用场景收集有监督的数据集是非常费时费力的。此时，如果能够在电脑模拟的环境中进行自动驾驶模型的训练，就能有效地节省时间、节能减排，同时对保障测试员的安全也具有重大意义。然而，电脑模拟的环境和真实的应用环境是有区别的，它们之间的数据存在数据分布偏移，这导致直接在真实的应用环境中使用模拟学习环境中训练的模型达到的效果往往十分不理想。因此，如何从有监督的学习环境到无监督的应用环境进行迁移学习是一个非常值得研究的问题。

发明内容

发明目的：深度图像分类系统的学习环境和应用环境往往是不同的，环境变化导致的数据分布偏移会让在学习环境中学到的模型在应用环境中表现不佳。针对这一问题，本发明提出了一种面向环境变化的无监督迁移学习图像分类方法。基于目标任务和不同的自监督辅助任务联合学习，从多个角度得到对应用环境中无监督样本的概念标签，并通过探寻不同概念标签之间的一致性来学习应用环境中样本的真实标签。该迁移学习图像分类系统旨在解决从有监督的学习环境到无监督的应用环境，由环境变化引起的数据分布偏移导致图像分类模型性能下降的问题。该方法能避免去新的应用环境中重新收集有标记的监督样本，在时间成本、经济成本、节能减排方面都有十分重要的意义。

技术方案：一种面向环境变化的无监督迁移学习图像分类方法，通过以下步骤，从数据分布有偏移的学习环境中学习到在应用环境中有效的模型：

步骤(1)在应用环境中获得新的待分类图片样本；

步骤(2)判断是否已存在完成面向应用环境的图像分类模型，如果不存在，转入步骤(3)，从学习环境到应用环境进行迁移学习构建图像分类模型；如果存在，转入步骤(13)；

步骤(3)如果模型更新迭代次数达到最大迭代次数，转入步骤(13)；如果没有转入步骤(4)；

步骤(4)从学习环境中获取大量有标记的图像数据作为监督样本，从应用环境中获取大量无标记的图像数据作为无监督样本，构建训练集；

步骤(5)初始化图像分类模型参数，模型训练过程中的超参数，以及若干个基于数据变换的自监督任务；

步骤(6)用残差神经网络接上一层全连接瓶颈网络提取图片数据的特征；

步骤(7)用伪标签生成器对无标签样本进行预测，并筛选出一些置信度高的伪标签；

步骤(8)计算有标签样本(包括伪标签)在伪标签生成器上的分类损失，在特征空间中计算学习环境和应用环境数据分布偏移损失；