[发明专利]基于迁移学习的最小二乘多分类方法、装置和存储介质

说明书

本发明公开了基于迁移学习的最小二乘多分类方法、装置和存储介质。该方法包括：采用源领域的标记样本对最小二乘多分类模型进行训练，获取源领域参数；根据所述源领域参数，采用正则化逼近迁移权重项的方法，在所述最小二乘多分类模型的基础上构建迁移的最小二乘多分类模型；采用所述目标领域的标记样本对所述迁移的最小二乘多分类模型进行训练，获得目标领域参数；根据所述目标领域参数获得所述目标领域分类的决策函数；根据所述决策函数对所述目标领域的目标进行分类。通过上述方式，本发明能够利用源领域的先验知识，在目标领域仅有少量的标记样本的情况下，达到对目标领域的样本进行有效的分类，减少了大量的人力物力。

技术领域

本申请涉及机器学习领域，特别是涉及基于迁移学习的最小二乘多分类方法、装置和存储介质。

背景技术

在现实中有很多常见的任务存在无法获取足够标注样本的问题，其不仅合理且符合人们期望。比如，在行人属性识别中，行人是否有雨披的属性数据样本是非常难获得，此时若以传统的机器学习方法来训练获得识别模型，对于此属性的识别效果将会较差。因此，如何在小样本的基础上来进行多分类，以此获得准确的分类结果是本申请所要达到的目的。论文《Least squares twin multi-class classification support vector machine》提供了一种多分类模型，是基于传统机器学习方法进行学习和分类，但是在数据信息匮乏的任务中，获得带标签的数据代价大，难度大。而在实际应用中，训练样本越多得到的模型泛化性能会更优，即使数据中有噪声或者其他问题时也会表现出良好的识别效果。而此传统方法无法解决此问题，因此本提案要解决的问题就是某些场景下数据样本少，且标注成本高，而又需要获得良好性能的模型去实际应用。因此，引入迁移学习到行业应用中，利用各领域的先验知识来进一步学习，从而获得可应用于当前领域的模型。

迁移学习中，源领域是有知识、有大量数据标注的领域，是被迁移对象；目标领域是要被赋予知识，赋予标注的学习对象。迁移学习作为机器学习的一个重要分支，侧重于将已经学习过的知识迁移应用于新的问题中。迁移学习的核心问题是，找到新问题和原问题之间的相似性，才可以顺利地实现知识的迁移。

发明内容

本发明公开了一种基于迁移学习的最小二乘多分类方法、装置和存储介质，能够利用源领域的先验知识，在目标领域仅具有少量标记样本的情况下，达到对目标领域样本进行有效分类的目的。

为解决上述技术问题，本申请采用的一个技术方案是：提供一种基于迁移学习的最小二乘多分类方法，包括以下步骤：

采用源领域的标记样本对最小二乘多分类模型进行训练，获取源领域参数，所述源领域参数包括源超平面参数，所述源超平面参数与用于划分所述源领域类别的超平面对应；

根据所述源领域参数，采用正则化逼近迁移权重项的方法，在所述最小二乘多分类模型的基础上构建迁移的最小二乘多分类模型；

采用所述目标领域的标记样本对所述迁移的最小二乘多分类模型进行训练，获得目标领域参数，所述目标领域参数包括目标超平面参数，所述目标超平面参数与用于划分所述目标领域类别的超平面对应；

根据所述目标领域参数获得所述目标领域分类的决策函数；

根据所述决策函数对所述目标领域的目标进行分类。

为解决上述技术问题，本申请采用的另一个技术方案是：提供一种基于迁移学习的最小二乘多分类装置，包括：处理器和与所述处理器耦接的存储器，其中，所述存储器存储有用于实现上述所述的方法的程序指令；所述处理器用于执行所述存储器存储的所述程序指令。

为解决上述技术问题，本申请采用的再一个技术方案是：提供一种存储介质，包括：存储有处理器可运行的程序指令，所述程序指令用于执行上述所述的方法。