[发明专利]经由SLICED-WASSERSTEIN距离进行无监督域适应的系统和方法

说明书

描述了一种用于自主学习代理中的无监督域适应的系统。所述系统利用来自目标域的未标记数据集来调整已学习模型，从而得到经调整的模型。所述已学习模型先前已被训练使用来自源域的已标记数据集执行任务。所述已标记数据集具有第一输入数据分布，并且未标记目标数据集具有与所述第一输入数据分布有区别的第二输入数据分布。在所述自主学习代理中实现所述经调整的模型，以使所述自主学习代理在所述目标域中执行所述任务。

相关申请的交叉引用

本申请是2019年1月30日在美国提交的美国申请No.16/262,878的部分继续申请，该美国申请No.16/262,878是2018年2月6日在美国提交的名称为“Domain AdaptationLearning System”的美国临时申请No.62/627,179的非临时申请，所述申请的全部内容通过引用并入于此。

本申请还是2019年2月19日在美国提交的名称为“System and Method forUnsupervised Domain Adaptation Via Sliced-Wasserstein Distance”的美国临时申请No.62/807,716的非临时申请，该美国临时申请No.62/807,716的全部内容通过引用并入于此。

发明背景

(1)发明领域

本发明涉及一种用于无监督迁移学习的系统，并且更具体地，涉及一种用于无需任何人为干预就可以适应输入数据中的域移位的无监督迁移学习的系统。

(2)相关技术说明

也称为无监督域适应(UDA)的迁移学习(在合并的参考文献列表中的参考文献1中进行了描述)已被开发为使用过去经验的框架(即，来自完全注释的源数据的学习到的模型)，以提高使用稀疏标记或未标记的目标数据进行学习的模型的学习速度和预测精度。迁移学习的最常见场景是在可以访问目标域中的大量数据点但没有对应标记的情况下发生的。Motiian等人(参见参考文献2)针对该场景利用对抗学习。他们的想法是学习目标域和源域两者的联合嵌入子空间，以使所述目标域和所述源域在嵌入域中对准。在学习嵌入空间后，可以学习用于所述两个域的联合分类器，以应对目标任务中的标记数据稀缺性。此外，Luo等人(参见参考文献3)使用交叉熵损失作为两个域之间相似度的度量，以直接学习联合嵌入，而无需使用对抗学习。迁移学习的先前工作(参见参考文献4)专注于源域和目标域的联合优化，并且需要从头开始学习模型。

因此，仍然需要一种不必从先前的模型中学习也不需要干预便能掌握新的数据的迁移学习方法。

发明内容

本发明涉及一种用于无监督迁移学习的系统，并且更具体地，涉及一种用于无需任何人为干预就可以适应输入数据的域移位的无监督迁移学习的系统。所述系统包括非暂时性计算机可读介质和一个或更多个处理器，所述非暂时性计算机可读介质上编码有可执行指令，使得在执行所述可执行指令时，所述一个或更多个处理器执行多个操作。所述系统利用来自目标域的未标记数据集来调整已学习模型，从而得到经调整的模型。所述已学习模型先前已被训练使用来自源域的已标记数据集执行任务。所述已标记数据集具有第一输入数据分布，并且所述未标记目标数据集具有与所述第一输入数据分布有区别的第二输入数据分布。在所述自主学习代理中实现所述经调整的模型，并且所述系统使所述自主学习代理在所述目标域中执行所述任务。

在另一方面，使用sliced-Wasserstein(SW)距离作为用于确定所述第一输入数据分布与所述第二输入数据分布之间的相异度的相异度度量。

在另一方面，所述系统针对所述未标记数据集生成伪标记。

在另一方面，所述SW距离以来自所述已标记数据集的标记和所述伪标记为条件来对准所述第一输入数据分布和所述第二输入数据分布。

在另一方面，所述自主学习代理是自主驾驶系统，并且所述任务是功能性移动响应。