[发明专利]一种基于判别器共享的生成对抗网络组织结构及其训练方法在审
申请号: | 201910668780.X | 申请日: | 2019-07-23 |
公开(公告)号: | CN110598843A | 公开(公告)日: | 2019-12-20 |
发明(设计)人: | 唐川;陶业荣;杜静;陈远征;陈延仓;麻曰亮;张民垒 | 申请(专利权)人: | 中国人民解放军63880部队 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 61204 西北工业大学专利中心 | 代理人: | 陈星 |
地址: | 471000*** | 国省代码: | 河南;41 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 判别器 生成器 生成数据 逼真性 网络组织结构 网络学习 多样性 反馈 对抗 共享 引入 补充 吸收 | ||
1.一种基于判别器共享的生成对抗网络组织结构,其特征在于:包含一个判别器和多个生成器,每个生成器均与判别器组成一个生成对抗网络结构;
对于每个生成器而言,其输入为随机潜在变量z,输出为生成数据G(z),且G(z)与目标数据集x具有相同的数据结构;进行参数更新时,生成器接收判别器输出的反馈结果,求解得到生成器的更新参数;
判别器的输入In包括目标数据集x和每个生成器的输出,判别器的输出为实数值,所述实数值表示数据In来自目标数据集x的可能性;进行参数更新时,判别器根据数据标签和自身输出的反馈结果,求解得到判别器的更新参数;所述数据标签表示数据来源为目标数据集x或生成器的输出数据。
2.根据权利要求1所述一种基于判别器共享的生成对抗网络组织结构,其特征在于:生成器进行参数更新时,采用的求解方法为随机梯度下降、基于动量的优化或均方根反向传播方法;判别器进行参数更新时,采用的求解方法为随机梯度下降、基于动量的优化或均方根反向传播方法。
3.根据权利要求1所述一种基于判别器共享的生成对抗网络组织结构,其特征在于:每个生成器均与判别器组成GAN结构、ACGAN结构或WGAN结构。
4.一种权利要求1所述基于判别器共享的生成对抗网络的训练方法,其特征在于:采用异步训练方法,包括以下步骤:
步骤1:初始化生成器编号i=1,生成器编号i为[1,n]之间的正整数,表示当前选择的生成器编号,n为生成器的个数;
步骤2:初始化单步判别器训练次数j=1;单步判别器训练次数j为[1,k]之间的整数,k表示在生成器和判别器交替训练过程中,生成器每更新一次参数,判别器需要更新k次参数;
步骤3:从生成器Gi的输入变量zi的分布中随机采样m个样本zi(1),…,zi(m);从目标数据集分布pdata中随机取出m个样本x(1),…,x(m);根据判别器代价函数公式
解算更新判别器参数θ(D),其中为生成器Gi的参数,D(x(l))表示输入为x(l)时的判别器输出,表示输入为时的判别器输出,为生成器Gi的输出;
步骤4:判断单步判别器训练次数j是否小于k,若j<k,则j自加1,返回步骤3继续执行判别器单步训练,若j=k,则进入步骤5;
步骤5:从生成器Gi的输入变量zi的分布中随机采样m个样本zi(1),…,zi(m);根据生成器代价函数公式
解算更新生成器Gi参数
步骤6:判断生成器编号i是否小于n,若i<n,则i自加1,返回步骤2,对下一个生成器执行判别器与生成器的交替训练;若i=n,则进入步骤7;
步骤7:判断是否达到训练终止条件,若达到,异步训练结束,若未达到,返回步骤1,迭代执行以上过程。
5.根据权利要求4所述基于判别器共享的生成对抗网络的训练方法,其特征在于:步骤5中解算更新生成器参数时,采用的求解方法为随机梯度下降、基于动量的优化或均方根反向传播方法;步骤3中解算更新判别器参数时,采用的求解方法为随机梯度下降、基于动量的优化或均方根反向传播方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国人民解放军63880部队,未经中国人民解放军63880部队许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910668780.X/1.html,转载请声明来源钻瓜专利网。