[发明专利]一种解决数据域间差异的神经网络模型训练方法及装置

说明书

本申请涉及一种解决数据域间差异的神经网络模型训练方法及装置。其中，所述方法包括：获取数据域间差异的源域数据集和目标域数据集；通过源域数据集对骨干网络模型进行预训练，得到数据域间差异的预训练骨干模型；根据目标域数据集、预训练骨干模型、全连接网络和/或激活器，获取数据域间差异的源域模型和目标域模型；根据目标域数据集、源域模型和目标域模型，获取数据域间差异的评估结果；根据源域数据集、目标域数据集、骨干网络模型和评估结果，得到数据域间差异的最终模型。本申请能够评估源域数据集和目标域数据集的域间差异，能够使得所述最终模型的输出结果的域间差异问题得到缓解。

技术领域

本发明涉及域间差异技术领域，更为具体来说，本发明涉及一种解决数据域间差异的神经网络模型训练方法及装置。

背景技术

基于自监督学习的预训练模式在计算机视觉中获得了非常大的进展，并形成了一套主流的训练范式，称为“预训练-微调”。其中预训练阶段所使用的数据一般是以主流的大规模公开数据集为主，例如ImageNet数据集，该ImageNet数据集约有一百多万张图像，涵盖了1000类物体。目前，现实应用场景的下游任务数据会存在多种特定且预训练数据未能覆盖的情况，导致预训练数据和下游任务数据存在域间差异问题(即domaingap)，例如数据分布差异、数据特征差异和任务目标差异等。若两种数据集的域间差异越大，下游任务模型的性能受到的负面影响也就越大。

发明内容

本申请实施例提供了一种解决数据域间差异的神经网络模型训练方法及装置。为了对披露的实施例的一些方面有一个基本的理解，下面给出了简单的概括。该概括部分不是泛泛评述，也不是要确定关键/重要组成元素或描绘这些实施例的保护范围。其唯一目的是用简单的形式呈现一些概念，以此作为后面的详细说明的序言。

第一方面，本申请实施例提供了一种解决数据域间差异的神经网络模型训练方法，该方法包括：

获取数据域间差异的源域数据集和目标域数据集；

通过所述源域数据集对骨干网络模型进行预训练，得到数据域间差异的预训练骨干模型；

根据所述目标域数据集、所述预训练骨干模型、全连接网络和/或激活器，获取数据域间差异的源域模型和目标域模型；

根据所述目标域数据集、所述源域模型和所述目标域模型，获取数据域间差异的评估结果；

根据所述源域数据集、所述目标域数据集、所述骨干网络模型和所述评估结果，得到数据域间差异的最终模型。

可选的，根据所述目标域数据集、所述预训练骨干模型、全连接网络和/或激活器，获取数据域间差异的目标域模型，包括：

根据所述预训练骨干模型，构建数据域间差异的下游任务骨干网络模型；

根据所述目标域数据集、所述下游任务骨干网络模型、全连接网络和激活器，得到数据域间差异的目标域模型。

可选的，根据所述目标域数据集、所述预训练骨干模型、全连接网络和/或激活器，获取数据域间差异的源域模型，包括：

根据所述预训练骨干模型、所述全连接网络、所述激活器和所述目标域模型，得到数据域间差异的所述源域模型。

可选的，根据所述目标域数据集、所述预训练骨干模型、全连接网络和/或激活器，获取数据域间差异的目标域模型，包括：

根据所述预训练骨干模型，构建数据域间差异的下游任务骨干网络模型；

根据所述目标域数据集、所述下游任务骨干网络模型和全连接网络，得到数据域间差异的目标域模型。

可选的，根据所述目标域数据集、所述预训练骨干模型、全连接网络和/或激活器，获取数据域间差异的源域模型，包括：