[发明专利]一种基于生成对抗网络的零样本学习算法

说明书

本发明一种基于生成对抗网络的零样本学习算法，包括：分别对生成对抗网络中的生成网络和判别网络进行了改进，并设计FD‑FGAN模型；将注意机制集成到图像特征生成过程中，并设计FD‑FGAN注意模型来提高生成图像特征的质量；提出一种同时学习像素特征和深层特征的二值特征空间匹配方法；提出一种半监督GAN，为标记样本和未标记样本设置了特殊的通道；借鉴自然语言处理中的对偶学习，构建从源域到目标域和从目标域到源域的跨域学习闭环，使GAN即使在没有标签数据和有效的无监督学习的情况下，也可以在人工干预期间进行。本发明通过特征融合、有效的特征聚类技术，使得生成对抗网络生成效果大大提高。

技术领域

本发明属于机器学习的零样本学习领域，具体为一一种基于生成对抗网络的零样本学习算法，旨在利用训练类别的特征表示，通过生成对抗网络生成测试类别的特征表示，将零样本图像分类任务转化为经典图像分类任务，获得更高的零样本图像分类精度。

背景技术

随着人工智能的不断推进，机器学习已经成为当前最热门的研究方向之一，并被广泛应用于人工智能的许多领域，如数据挖掘、自然语言处理、计算机视觉、生物识别等。这些技术给人们的生活带来了巨大的变化，同时也丰富了人们的生活。

用机器学习解决图像分类问题时，可分为有监督学习、半监督学习和无监督学习。两者的主要区别在于学习过程中是否有样本标签。监督学习使用样本和标签学习来获得函数。当新样品到达时，可以根据该功能进行分类。无监督学习不依赖样本标签，而是根据样本之间的相似性对样本集进行分类。半监督学习的训练数据一部分是标注的，另一部分是未标注的。尽管机器学习在图像分类任务中得到了广泛的应用，但仍存在一些更关键的问题。最重要的是在学习过程中需要大量的人工标注数据来训练模型，耗费了大量的人力物力。与此同时，随着研究的不断深入，研究人员发现，对于某些类别，如某些濒危动物或某些罕见疾病，无疑很难获得这些样本的图像，但对于他们的研究来说，这是非常必要的。因此，如何利用有限的数据来提高模型的效果也引起了许多学者的关注。

在零样本学习任务中，最重要的任务是图像分类。零样本图像分类可以利用已有的图像样本对新生成的图像样本进行标注，避免了过去的人工标注，减少了人力物力的消耗，促进了人工智能的发展。同时，零样本图像的分类研究可以为智能识别稀有物种、智能识别稀有病灶做出巨大贡献。因此，零样本学习分类的研究具有非常重要的意义和应用价值。

受博弈论中两人零和博弈的启发，2014年Goodfellow等人提出了生成性对抗网络(GANs)，通过两个网络之间的对抗，由生成网络和判别网络两部分组成。完成训练过程，估计训练样本的潜在分布，生成新的数据样本。图5展示了生成对抗网络的模型结构，其中G为生成网络，D为判别网络。生成网络G利用输入噪声生成接近真实样本的生成样本，判别网络D判断生成样本和真实样本的真实性。经过一段时间的对抗性学习后，生成网络G试图不断生成更真实的样本来欺骗判别网络D，判别网络D不断提高网络的判别能力。通过这样的交互对抗学习，模型生成的样本越来越接近真实样本。

生成式对抗网络虽然能在一定程度上生成更真实的样本，但它有一个致命的缺点，那就是网络难以收敛。针对这一问题，产生式对抗网络出现了许多改进和变体，如条件对抗网络、深度卷积产生式对抗网络和信息最大化。生成对抗网络(信息最大化生成对抗网络，InfoGAN)等。其中最有效的是WGAN(Wasserstein Generative advantarial Nets)，它彻底解决了GAN训练不稳定的问题，并在训练过程中设计了一个价值来指导训练过程。首先，WGAN去除了判别网络最后一层的Sigmoid激活函数。其次，在计算发电网和判别网的损耗时，不取对数。再次，在每次更新鉴别网络之后，参数的绝对值被截断到不超过固定值。常数，最后用随机梯度下降算法代替基于动量的算法。虽然WGAN的收敛需要更长的训练，但其收敛过程更稳定。