[发明专利]一种面向收敛性保障的无监督双向生成自动编码方法及系统有效
申请号: | 202110678193.6 | 申请日: | 2021-06-18 |
公开(公告)号: | CN113298895B | 公开(公告)日: | 2023-05-12 |
发明(设计)人: | 钱诗友;华勤;曹健;薛广涛 | 申请(专利权)人: | 上海交通大学 |
主分类号: | G06T9/00 | 分类号: | G06T9/00;G06N3/0464;G06N3/08 |
代理公司: | 上海汉声知识产权代理有限公司 31236 | 代理人: | 胡晶 |
地址: | 200240 *** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 面向 收敛性 保障 监督 双向 生成 自动 编码 方法 系统 | ||
1.一种面向收敛性保障的无监督双向生成自动编码方法,其特征在于,包括:
步骤S1:批数据x,z通过编码器E和生成器G同时生成编码结果E(x)和生成数据G(z),完成从隐变量空间向数据空间的映射和从数据空间向隐变量空间的反向映射;
步骤S2:图像空间数据与隐变量空间数据通过卷积块Fx和Fz,分别对图像空间数据与隐变量空间数据进行信息提取,得到提取后的图像空间数据和提取后的隐变量空间数据
步骤S3:根据提取后的图像空间数据和提取后的隐变量空间数据训练判别器D,直至损失函数最小;
步骤S4:图像数据利用训练后的编码器E,完成编码过程并生成编码结果,将编码结果输入训练后的生成器G,获得重建图像数据结果,进而完成图像数据的重建工作,实现了图像空间与隐变量空间双向映射过程的整体协同优化,提升表征能力和图像生成能力;
引入嵌入式MMD鉴别器模块Dz,并复用卷积块Fx和Fz,编码器E和生成器G实现嵌入式GAN网络,利用嵌入式GAN网络减少z和重建结果E(G(z))分布间的MMD距离加强整体双向结构的收敛性并加强编码器的语义相关表征能力。
2.根据权利要求1所述的面向收敛性保障的无监督双向生成自动编码方法,其特征在于,所述生成器G和编码器E分别使用DCGAN结构中的卷积网络模块和解卷积网络模块。
3.根据权利要求1所述的面向收敛性保障的无监督双向生成自动编码方法,其特征在于,所述步骤S3中损失函数包括:Wasserstein距离;
其中,表示Wasserstein距离;D表示输入数据对的相似概率;Fx和Fz表示卷积块。
4.根据权利要求1所述的面向收敛性保障的无监督双向生成自动编码方法,其特征在于,所述利用嵌入式GAN网络减少z和重建结果E(G(z))分布间的MMD距离加强整体双向结构的收敛性并加强编码器的语义相关表征能力包括:
步骤S5:编码结果E(x)通过生成器G重建生成数据G(E(x));生成数据G(z)通过编码器E重建编码结果E(G(z));
步骤S6:利用嵌入式MMD鉴别器模块Dz计算得到z与E(G(z))间分布的MMD差异损失函数并利用损失函数优化嵌入式MMD鉴别器模块Dz;
其中,设Z,X分别为真实的隐变量空间和数据空间,相应地,有分别表示重构后的隐变量空间和重构后的数据空间,PZ表示隐变量空间分布;令z,z′表示在隐变量空间Z上的采样,相应地,有yz=Dz(z);yz′=Dz(z′)表示Dz输出的对z,z′的判定结果;与分别表示表示隐变量z和z′的重构隐变量结果;表示在重构隐变量空间的条件概率分布;分别表示Dz输出的对的判定结果;λ1表示梯度惩罚项权重参数;表示对上获取的梯度;σ表示krep符合的高斯分布的方差系数;e即自然对数的底数常数;其中,即代表z与其重构结果的加权结果,其中ε表示对z与其重构结果求加权采样时的权重参数;
步骤S7:利用优化的嵌入式MMD鉴别器模块Dz,求解z与E(G(z))间分布关于编码器E和生成器G的MMD损失函数
其中,kF表示高斯核函数;bl,bu分别表示a,b间L2距离的下界与上界参数;
步骤S8:利用损失函数生成编码空间上的引导项Tz,进而完成嵌入式GAN网络的训练;
其中,∝1表示与重建操作的像素级l2损失的加权系数;nb表示数据批大小;原隐变量z与重建结果间的l2损失;
步骤S9:通过训练后的嵌入式GAN网络优化当前双向结构的收敛性,并且生成的引导项进一步提升编码器E的语义表征能力。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海交通大学,未经上海交通大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110678193.6/1.html,转载请声明来源钻瓜专利网。