[发明专利]一种基于最优子空间学习的异构迁移学习方法

说明书

本发明公开了一种基于最优子空间的异构迁移学习方法。所述方法包括：从数据库中取出用于异构迁移学习的源域和目标域数据；基于典型关联分析和多分类损失函数构建模型，使得目标函数表现为既能找出两个域最关联的特征映射子空间，又能使该特征空间中的特征具有强分类能力；对目标函数进行等价转化，以简化模型；对简化后的模型进行处理，使用交替方向乘子法将整个模型的优化问题分为三个子问题，求解得到三个子问题中参数变量的更新解；最后对整个问题进行迭代更新以收敛到最优。该方法较好的结合了知识迁移能力以及模型分类能力两个特点，并能较好的用于困难的异构迁移学习场景，在实际场景的应用中有很强的分类学习和数据标注能力。

技术领域

本发明涉及异构迁移学习和半监督迁移学习领域,具体涉及一种基于最优子空间学习的异构迁移学习方法。

背景技术

近年来，人工智能技术迅猛发展，在多种实地应用场景下起到了很强的作用。人工智能技术的核心是其算法的学习以及预测。然而，随着实际应用场景的多样性和复杂性的增加。传统人工智能算法的短板越来越突出。这主要是由于传统人工智能算法是假设所学习的数据是服从同一分布的，只有服从这样的假设才能够表现出良好的结果。然而，实际应用中由于不同时间不同地域等各种原因造成数据往往是不完全服从同一分布的，这就需要迁移学习技术把学习到的知识从源域应用到目标域。一类比较困难且很有价值的实际问题是源域和目标域不仅分布有差异，且其数据的特征也不相同，这就是异构的迁移学习问题。目前有不少的研究者关注到这个问题，但有效解决该问题的方法非常有限。比如文字与图片两种数据，其特征不同即表现形式不同，但他们的实际意义可能相同，如何学习到一个领域的知识并能够去对另外一个领域的数据进行预测，具有极强的研究价值和实际意义。

发明内容

本发明的目的是提供一种基于最优子空间学习的异构迁移学习方法，克服现有技术存在的不足。

本发明的目的可以采取以下技术方案实现。

一种基于最优子空间学习的异构迁移学习方法，包括以下步骤：

S1：从数据库中获取用于迁移学习的源域和目标域数据，并基于典型关联分析方法(CCA)构建目标函数为最优子空间与分类学习相结合的模型；

S2：将已得到的模型进行合理地等价转化，使问题求解得到简化，并初始化模型参数，设定惩罚系数、平衡系数超参数；

S3：根据提出的模型得到目标域中未标记数据的假类标，并对模型的参数进行迭代优化以更新模型与假类标；

S4：重复步骤S2中的算法直到算法收敛，得到最终的模型，使用最终的模型对所有未标记的目标域数据进行预测。

作为一种具体的实施方案，步骤S1中，所述获取数据及构建模型的步骤为：

S11：从数据库中取出数据，分为源域和目标域数据，其中源域数据表示为：

此处S代表源域，n_S为数据个数，y_S,i∈{1,...,K}为类别空间，数据维度为d_S；目标域数据仅有少量有类别标记，其中已标记的数据表示为L代表目标域的有标记样本空间，n_L为该空间数据个数，y_L,i∈{1,...,K}为类别空间；未标记数据表示为U代表目标域的无标记样本空间,n_U为该空间数据个数；目标域数据维度均为d_T，两个域的类别空间一致，即两个域数据所属的可能类别相同；

S12：基于典型关联分析方法，找出两个域最关联的特征映射子空间，即从源域和目标域中分别选出n个数据映射到领域共享空间d_C中，使得两个域的数据相关性最大，典型关联分析方法的目标函数表示为：