[发明专利]一种基于生成对抗网络使用感知损失解决模型崩塌的方法有效
申请号: | 201811310962.1 | 申请日: | 2018-11-06 |
公开(公告)号: | CN109409508B | 公开(公告)日: | 2022-03-15 |
发明(设计)人: | 李孝杰;伍贤宇;冯诗皓;史沧红;罗超;张宪;刘书樵;李俊良 | 申请(专利权)人: | 成都信息工程大学 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08;G06T5/00;G06T11/00 |
代理公司: | 北京元本知识产权代理事务所(普通合伙) 11308 | 代理人: | 常桑 |
地址: | 610225 四川省成都市双*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 生成 对抗 网络 使用 感知 损失 解决 模型 崩塌 方法 | ||
本发明属于图像重建技术领域,公开了一种基于生成对抗网络使用感知损失解决模型崩塌的方法,利用随机向量z生成与实际数据分布相似的图像,在训练的过程中采用感知损失将z和真实数据映射到特征空间中来提取更高层次的特征,并结合对抗损失来鼓励生成网络产生与实际图像相似的图像样本;最后,使得鉴别器不能判断这是一个虚假图像。本发明针对已有网络采用较小的数据集解决了模型崩塌问题,VGG‑GAN在两个小场景数据集上进行评价;实验结果表明,用VGG‑GAN方法生成的图像质量优于现有方法。
技术领域
本发明属于图像重建技术领域,尤其涉及一种基于生成对抗网络使用感知损失解决模型崩塌的方法。具体涉及一种基于生成对抗网络使用感知损失解决模型崩塌的方法VGG-GAN。
背景技术
目前,业内常用的现有技术是这样的:
传统生成对抗网络GAN有生成器网络和鉴别器网络组成。训练GAN使生成器网络和鉴别器网络相互竞争达到最优的过程,即达到纳什均衡。然而,目前并没有一个明确的方法来确定GAN网络是否已经进入纳什平衡。该问题是一个高维非凸优化目标。网络试图在下一步中最小化非凸优化目标,这最终可能导致振荡,而不是收敛到底层的真实目标。只要一个生成器和鉴别器不再改变,任何一方不会进一步改进。从梯度下降开始,选择一个可微的损失函数,并最小化它。
GAN应用广泛,但存在训练不稳定、梯度消失、模型崩溃等问题。例如,当GAN训练不稳定时,实验的结果会很差,即使训练增加训练的时间也不会让最终的结果改进。众所周知,最优的D旨在最大化真实数据分布与生成的样本分布之间的Jensen-Shannon(JS)偏差。理论上,高维空间中两个分布之间的JS距离的最大概率是常数。当优化的目标是常数时,对于最优鉴别器,生成器不能得到任何的梯度信息。即使对于接近最优的鉴别器,生成器也有很大的可能来面对梯度消失的问题。模型崩溃被称为GAN网络中最重要的失败模式。生成器重复产生完全相同的图像,本发明称之为模式崩溃。一般来说,现实世界的数据分布是高度复杂和多模态的。数据描述的概率分布具有多重性。由不同的子组样本集中。生成器崩塌到一个非常狭窄的分布,并导致生成的样本不再改变。这显然违反了GAN的本质。
此外,模式崩塌的严重程度因完全崩塌而不同。在现实中,生成的样本几乎是相同的部分崩塌(大多数样本都具有一些共同属性)。为了解决图像生成中的模型崩塌问题,基于GAN框架提出了使用权重削减的新算法WGAN。WGAN采用大型场景LSUN卧室数据集(数量为3033042)来表现出色的视觉效果,证明了该方法的有效性。
综上所述,现有技术存在的问题是:
(1)目前并没有一个明确的方法来确定GAN网络是否已经进入纳什平衡;
(2)GAN应用广泛,但存在训练不稳定、梯度消失、模型崩溃等问题,实验的结果会很差,即使训练增加训练的时间也不会让最终的结果改进;
(3)现有技术中,使用大场景数据集(例如LSUN,CelebA),并且最终结果呈现良好的视觉效果。然而,当训练数据是一个小场景数据集时,实验结果会产生模式崩塌;导致了生成样本失去多样性。
解决上述技术问题的意义:
本发明的VGG-GAN有两个优点:
第一,解决了在小场景数据集下的模式崩溃问题,保证生成样本的多样性。
第二,VGG-GAN网络收敛速度快,并且稳定。
发明内容
针对现有技术存在的问题,本发明提供了一种基于生成对抗网络使用感知损失解决模型崩塌的方法。
本发明是这样实现的,一种基于生成对抗网络使用感知损失解决模型崩塌的方法,包括以下步骤:
输入待训练的图像I;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于成都信息工程大学,未经成都信息工程大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811310962.1/2.html,转载请声明来源钻瓜专利网。