[发明专利]一种解决数据域间差异的神经网络模型训练方法及装置

权利要求书

1.一种解决数据域间差异的神经网络模型训练方法，其特征在于，包括以下步骤：

获取数据域间差异的源域数据集和目标域数据集；

通过所述源域数据集对骨干网络模型进行预训练，得到数据域间差异的预训练骨干模型；

根据所述目标域数据集、所述预训练骨干模型、全连接网络和/或激活器，获取数据域间差异的源域模型和目标域模型；

根据所述目标域数据集、所述源域模型和所述目标域模型，获取数据域间差异的评估结果；

根据所述源域数据集、所述目标域数据集、所述骨干网络模型和所述评估结果，得到数据域间差异的最终模型。

2.根据权利要求1所述的神经网络模型训练方法，其特征在于，根据所述目标域数据集、所述预训练骨干模型、全连接网络和/或激活器，获取数据域间差异的目标域模型，包括：

根据所述预训练骨干模型，构建数据域间差异的下游任务骨干网络模型；

根据所述目标域数据集、所述下游任务骨干网络模型、全连接网络和激活器，得到数据域间差异的目标域模型。

3.根据权利要求2所述的神经网络模型训练方法，其特征在于，根据所述目标域数据集、所述预训练骨干模型、全连接网络和/或激活器，获取数据域间差异的源域模型，包括：

根据所述预训练骨干模型、所述全连接网络、所述激活器和所述目标域模型，得到数据域间差异的所述源域模型。

4.根据权利要求1所述的神经网络模型训练方法，其特征在于，根据所述目标域数据集、所述预训练骨干模型、全连接网络和/或激活器，获取数据域间差异的目标域模型，包括：

根据所述预训练骨干模型，构建数据域间差异的下游任务骨干网络模型；

根据所述目标域数据集、所述下游任务骨干网络模型和全连接网络，得到数据域间差异的目标域模型。

5.根据权利要求4所述的神经网络模型训练方法，其特征在于，根据所述目标域数据集、所述预训练骨干模型、全连接网络和/或激活器，获取数据域间差异的源域模型，包括：

根据所述预训练骨干模型、所述全连接网络和所述目标域模型，得到数据域间差异的所述源域模型。

6.根据权利要求1所述的神经网络模型训练方法，其特征在于，所述根据所述目标域数据集、所述源域模型和所述目标域模型，获取数据域间差异的评估结果，包括：

根据所述目标域数据集、所述源域模型和所述目标域模型，获取数据域间差异的经验条件熵；

根据所述经验条件熵，获取数据域间差异的总体信息增益差公式；

由所述总体信息增益差公式，计算每一样本的单个信息增益差；

将多个样本的所述单个信息增益差进行组合，获取数据域间差异的所述评估结果。

7.根据权利要求1所述的神经网络模型训练方法，其特征在于，所述根据所述源域数据集、所述目标域数据集、所述骨干网络模型和所述评估结果，得到数据域间差异的最终模型，包括：

根据所述评估结果，选取数据域间差异的目标域样本子集；

根据所述目标域样本子集、所述源域数据集和所述骨干网络模型，获取数据域间差异的重预训练骨干模型；

通过所述目标域数据集对所述重预训练骨干模型进行微调，得到数据域间差异的所述最终模型。

8.一种解决数据域间差异的神经网络模型训练装置，其特征在于，包括：

数据获取模块，用于获取数据域间差异的源域数据集和目标域数据集；

预训练模块，用于通过所述源域数据集对骨干网络模型进行预训练，得到数据域间差异的预训练骨干模型；

模型获取模块，用于根据所述目标域数据集、所述预训练骨干模型、全连接网络和/或激活器，获取数据域间差异的源域模型和目标域模型；

评估结果获取模块，用于根据所述目标域数据集、所述源域模型和所述目标域模型，获取数据域间差异的评估结果；

最终模型确定模块，用于根据所述源域数据集、所述目标域数据集、所述骨干网络模型和所述评估结果，得到数据域间差异的最终模型。