[发明专利]神经网络训练方法及装置和图像生成方法及装置有效
申请号: | 201910927729.6 | 申请日: | 2019-09-27 |
公开(公告)号: | CN110634167B | 公开(公告)日: | 2021-07-20 |
发明(设计)人: | 邓煜彬;戴勃;相里元博;林达华;吕健勤 | 申请(专利权)人: | 北京市商汤科技开发有限公司 |
主分类号: | G06T9/00 | 分类号: | G06T9/00;G06N3/08 |
代理公司: | 北京林达刘知识产权代理事务所(普通合伙) 11277 | 代理人: | 刘新宇 |
地址: | 100084 北京市海淀区中*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 训练 方法 装置 图像 生成 | ||
本公开涉及一种神经网络训练方法及装置和图像生成方法及装置,所述方法包括:将第一随机向量输入生成网络,获得第一生成图像;将第一生成图像和第一真实图像输入判别网络,获得第一判别分布与第二判别分布;根据第一判别分布、第二判别分布、第一目标分布、第二目标分布,确定判别网络的第一网络损失;根据第一判别分布和第二判别分布,确定生成网络的第二网络损失;根据第一网络损失和第二网络损失,对抗训练生成网络和判别网络。根据本公开的实施例的神经网络训练方法,判别网络可针对输入图像输出判别分布,以概率分布的形式描述输入图像的真实性,可从多个方面考量输入图像的真实性,减少信息丢失,提高训练精度。
技术领域
本公开涉及计算机技术领域,尤其涉及一种神经网络训练方法及装置和图像生成方法及装置。
背景技术
在相关技术中,生成对抗网络(Generative Adversarial Networks,GAN)由两个模块组成,分别为判别网络(Discriminator)和生成网络(Generator)。受零和博弈(zero-sum game)的启发,两个网络通过互相对抗的方式达到最佳生成效果。在训练过程中,判别器通过奖励真目标和惩罚假目标来学习区分真实图像数据和生成网络生成的仿真图像,生成器则通过逐步缩小判别器对假目标的惩罚,使得判别器无法区分真实图像与生成图像,两者互相博弈、进化,最终达到以假乱真的效果。
在相关技术中,生成对抗网络由判别网络输出的一个单一标量来描述输入图片的真实性,再使用该标量计算网络的损失,进而训练生成对抗网络。然而图像的真实性体现在多个维度,比如颜色、纹理、比例、背景等,使用单一标量会在一定程度上会造成信息丢失,给予神经网络偏颇的引导,从而造成训练不稳定,生成图像质量差的问题。
发明内容
本公开提出了一种神经网络训练方法及装置和图像生成方法及装置。
根据本公开的一方面,提供了一种神经网络训练方法,包括:
将第一随机向量输入生成网络,获得第一生成图像;
将所述第一生成图像和第一真实图像分别输入判别网络,分别获得所述第一生成图像的第一判别分布与第一真实图像的第二判别分布,其中,所述第一判别分布表示所述第一生成图像的真实程度的概率分布,所述第二判别分布表示所述第一真实图像的真实程度的概率分布;
根据所述第一判别分布、所述第二判别分布、预设的第一目标分布以及预设的第二目标分布,确定所述判别网络的第一网络损失,其中,所述第一目标分布为生成图像的目标概率分布,所述第二目标分布为真实图像的目标概率分布;
根据所述第一判别分布和所述第二判别分布,确定所述生成网络的第二网络损失;
根据所述第一网络损失和所述第二网络损失,对抗训练所述生成网络和所述判别网络。
根据本公开的实施例的神经网络训练方法,判别网络可针对输入图像输出判别分布,以概率分布的形式描述输入图像的真实性,可从颜色、纹理、比例、背景等维度描述输入图像为真实图像的概率,可从多个方面考量输入图像的真实性,减少信息丢失,为神经网络训练提供更全面的监督信息以及更准确的训练方向,提高训练精度,最终提高生成图像的质量,使得生成网络可适用于生成高清图像。并且,预设了生成图像的目标概率分布以及真实图像的目标概率分布来指导训练过程,在训练过程中引导使真实图像和生成图像接近各自的目标概率分布,增大真实图像和生成图像的区分度,增强判别网络区分真实图像和生成图像的能力,进而提升生成网络生成的图像的质量。
在一种可能的实现方式中,根据所述第一判别分布、所述第二判别分布、预设的第一目标分布以及预设的第二目标分布,确定所述判别网络的第一网络损失,包括:
根据所述第一判别分布和所述第一目标分布,确定所述第一生成图像的第一分布损失;
根据所述第二判别分布和所述第二目标分布,确定所述第一真实图像的第二分布损失;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京市商汤科技开发有限公司,未经北京市商汤科技开发有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910927729.6/2.html,转载请声明来源钻瓜专利网。
- 上一篇:模具材料选择装置以及相应终端
- 下一篇:群头像的生成方法及装置