[发明专利]一种保持图像分类稀疏结构的迁移分类学习方法

说明书

本发明公开了一种保持图像分类稀疏结构的迁移分类学习方法，找到两个分布相近但不同的源域和目标域，源域包含有标签数据，首先在源域上利用监督分类方法训练分类器，并利用该分类器预测目标域数据的伪标签；其次，利用最大均值差异分别构造源域和目标域数据的边缘分布和条件分布项，将二者组合构成联合分布项；然后，利用有效投影的稀疏学习工具包构造所有数据上的稀疏表示矩阵S以构造稀疏结构保持项；接着，利用结构风险最小化原则构造结构风险最小化项；最后，将结构风险最小化项、联合分布项以及稀疏结构保持项结合起来构造统一的迁移分类学习框架，并利用包含核函数的分类函数表示定理代入框架求解获得最终可用于预测目标域类别的分类器。

技术领域

本发明涉及机器学习中迁移学习分类技术领域，尤其涉及一种保持图像分类稀疏结构的迁移分类学习方法。

背景技术

传统的机器学习有两个基本假设，一个是测试样本和训练样本应该满足独立同分布，其二是需有足够可利用的训练样本。但是往往这两个条件不容易满足，因此迁移学习应运而出，迁移学习是运用已经知道的内容知识对相关但是不同的领域进行求解的方法。运用在一个领域已经知道的知识，来解决学习目标领域仅有少量标签样本甚至于没有标签样本的问题。往往两个领域差异越小，共享的因素越多，迁移学习会相对更加容易和精准。

图像分类在今天的社会具有极大的潜力，比如人脸分类，场景分类等。场景分类能够提供非常有效地场景信息，用于指导如行为检测，目标识别之类的机器视觉任务，如：机器人要完成抓取办公桌上水杯的任务，我们可以先进行场景类别检索，找到办公室场景，再在这个场景中查找水杯。这样检索工作会简单。而提供有效地场景图片分类方法则是能够使得机器人快速响应并完成工作的重要之处。因此高效的图像分类方法可以应用在诸多工作中。

稀疏编码是一种特征表示的方法。稀疏重构可以保持数据的全局信息和几何结构。稀疏矩阵中绝大多数元素都为0，稀疏编码目的是求解少量的能代表低层特征信息基向量的系数,也就是说用其他基向量的线性组合来表示输入向量。进行重新构成，假设X＝[x₁，x₂，……，x_n]为一个字典矩阵。其中x_i是m维的列向量。稀疏表示的目的是用尽可能少的X中的项去重新表示每一个x。因此对于我们需要的稀疏矩阵S来说。就是要求该矩阵中的非零元素尽可能的少。这是一个l0范数问题。但是由于l0是一个非确定多项式(NP-hard)的非凸优化问题，不好求解。因此稀疏编码大部分都是采用l 1范数(求取所有元素的绝对值之和)来解决的。又因为在大多数实际问题中，信号或者图像x一般是有噪声的，因此加入容错率ε。公式如下：

s.t.||x_i-Xs_i||＜ε

1＝1^Ts_i

s_i为列向量。由s_i组成的权重矩阵S可以反映出输入数据的固有几何特性，判别信息可以自然的保存在权重矩阵S中。给一个属于j类别的图像j＝1，……，c，权重向量s_i＝[0,......，α_i,i-1,0,α_i,i+1,......，0]^T，则理论上(图像识别中假设属于同一类的样本位于同一个线性子空间)可以被同属于j类别的其他图像线性表示表示：

在这里即s_i中的非零项与j类别中的样本是有关联的。

结合结构最小化原则构造函数和熵正则化，期望正则化和流形正则化。可以得到混合正则化的迁移学习框架。然后将混合正则化框架作用于源，目标域上。最终得到用于目标域上的迁移分类器。但是由于使用流形正则化刻画的是局部的结构信息，这种正则化框架对于图像的分类效果并不能让人十分满意。

发明内容