[发明专利]数据处理方法及设备在审
申请号: | 202110802048.4 | 申请日: | 2021-07-15 |
公开(公告)号: | CN113449851A | 公开(公告)日: | 2021-09-28 |
发明(设计)人: | 吴捷;任玉羲;肖学锋 | 申请(专利权)人: | 北京字跳网络技术有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 上海光栅知识产权代理有限公司 31340 | 代理人: | 乔慧;马雯雯 |
地址: | 100190 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据处理 方法 设备 | ||
1.一种数据处理方法,适用于通过模型蒸馏得到的生成式对抗网络,所述数据处理方法包括:
获取待处理的图像;
通过第一生成器对所述图像进行处理,得到处理后的图像;
其中,所述生成式对抗网络包括所述第一生成器、第二生成器和判别器,所述模型蒸馏为交替训练所述第一生成器和所述第二生成器的过程,所述第一生成器的模型规模小于所述第二生成器的模型规模。
2.根据权利要求1所述的数据处理方法,所述生成式对抗网络中第一生成器与第二生成器的一次交替训练过程包括:
根据样本数据和所述判别器,确定所述第二生成器的损失值,所述样本数据中包括样本图像和所述样本图像对应的参考图像;
根据所述第二生成器的损失值,调整所述第二生成器;
根据所述样本图像、调整后的第二生成器和所述第一生成器,确定调整后的第二生成器与所述第一生成器之间的蒸馏损失;
根据所述蒸馏损失,调整所述第一生成器。
3.根据权利要求2所述的数据处理方法,所述根据样本数据和所述判别器,确定所述第二生成器的损失值,包括:
通过所述第二生成器对所述样本图像进行处理,得到所述第二生成器的输出图像;
通过所述判别器对所述样本图像对应的参考图像和所述第二生成器的输出图像进行真假判别,确定所述第二生成器的对抗损失;
根据所述样本图像对应的参考图像与所述第二生成器的输出图像的差异,确定所述第二生成器的重建损失;
根据所述对抗损失和所述重建损失,确定所述第二生成器的损失值。
4.根据权利要求2所述的数据处理方法,在所述生成式对抗网络中,网络层包括输入层、中间层和输出层,所述根据所述样本图像、调整后的第二生成器和所述第一生成器,确定调整后的第二生成器与所述第一生成器之间的蒸馏损失,包括:
通过所述第一生成器、调整后的第二生成器,分别处理所述样本图像,得到所述第一生成器的输出图像和所述第二生成器的输出图像;
根据所述第一生成器的输出图像与所述第二生成器的输出图像之间的差异,确定输出蒸馏损失,所述输出蒸馏损失为所述第二生成器的输出层与所述第一生成器的输出层之间的蒸馏损失。
5.根据权利要求4所述的数据处理方法,所述根据所述第一生成器的输出图像与所述第二生成器的输出图像之间的差异,确定输出蒸馏损失,包括:
根据所述第二生成器的输出图像的亮度和对比度以及所述第一生成器的输出图像的亮度和对比度,确定所述第二生成器的输出图像与所述第一生成器的输出图像之间的结构相似化损失;
通过特征提取网络对所述第一生成器的输出图像和所述第二生成器的输出图像分别进行特征提取,确定所述第一生成器的输出图像与所述第二生成器的输出图像之间的感知损失;
根据所述结构相似化损失和所述感知损失,确定所述输出蒸馏损失。
6.根据权利要求5所述的数据处理方法,所述感知损失包括特征重建损失和/或样式重建损失,所述通过特征提取网络对所述第一生成器的输出图像和所述第二生成器的输出图像分别进行特征提取,确定所述第一生成器的输出图像与所述第二生成器的输出图像之间的感知损失,包括:
将所述第一生成器的输出图像和所述第二生成器的输出图像分别输入所述特征提取网络,得到所述特征提取网络的预设网络层输出的所述第一生成器的输出图像的特征和所述第二生成器的输出图像的特征;
根据所述第一生成器的输出图像的特征与所述第二生成器的输出图像的特征之间的差异,确定所述特征重建损失和/或所述样式重建损失。
7.根据权利要求2所述的数据处理方法,所述根据所述蒸馏损失,调整所述第一生成器,包括:
确定所述第一生成器的输出图像的总变差损失;
根据所述蒸馏损失和所述总变差损失,调整所述第一生成器。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京字跳网络技术有限公司,未经北京字跳网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110802048.4/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种自动拣货平台及其拣货流转方法
- 下一篇:电容-电压转换电路及应用系统