[发明专利]基于单帧图像的三维人脸重建方法、装置、设备及介质有效
申请号: | 201910550324.5 | 申请日: | 2019-06-24 |
公开(公告)号: | CN110428491B | 公开(公告)日: | 2021-05-04 |
发明(设计)人: | 施柏鑫;李思;朱勇杰 | 申请(专利权)人: | 北京大学 |
主分类号: | G06T17/00 | 分类号: | G06T17/00;G06T15/20;G06T15/50;G06T15/83;G06K9/00 |
代理公司: | 北京辰权知识产权代理有限公司 11619 | 代理人: | 刘广达 |
地址: | 100871*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 图像 三维 重建 方法 装置 设备 介质 | ||
1.一种基于单帧图像的三维人脸重建方法,其特征在于,包括:
获取二维人脸图像;
将所述二维人脸图像输入预设三维人脸模型中进行正映射,得到与所述二维人脸图像对应的人脸法向量映射图和人脸纹理映射图;
将所述人脸法向量映射图和所述人脸纹理映射图输入至人脸表观属性分解网络中,得到与所述二维人脸图像对应的人脸表观属性分解结果;
将所述人脸表观属性分解结果输入所述预设三维人脸模型中进行反映射,得到反映射结果;
根据所述反映射结果重建三维人脸图像;
所述人脸表观属性分解网络包括:反照率估计子网络、光照估计子网络以及法向量优化子网络;
所述人脸表观属性分解结果包括:完整反照率映射图、优化后法向量映射图、中低频光照系数以及高频光照系数;
将所述人脸法向量映射图和所述人脸纹理映射图输入至人脸表观属性分解网络中,得到与所述二维人脸图像对应的人脸表观属性分解结果,包括:
将所述人脸法向量映射图输入训练好的法向量优化子网络进行优化,得到优化后法向量映射图;
将所述人脸法向量映射图和所述人脸纹理映射图输入训练好的光照估计子网络,得到其输出的中低频光照系数以及高频光照系数;
将所述人脸纹理映射图输入至训练好的反照率估计子网络,得到其输出的完整反照率映射图;
其中,完整反照率映射图和优化后法向量映射图均为三维点到二维点的平面映射,所述法向量优化子网络和所述反照率估计子网络均使用三维空间到二维空间的关系映射来对人脸遮挡部分进行建模,并通过训练生成对抗网络来对人脸缺失部分进行恢复。
2.根据权利要求1所述的方法,其特征在于,所述预设三维人脸模型采用三维可形变模型3DMM。
3.根据权利要求1所述的方法,其特征在于,所述将所述人脸表观属性分解结果输入所述预设三维人脸模型中进行反映射,得到反映射结果,包括:
将所述中低频光照系数以及高频光照系数输入预设渲染模型中进行渲染,得到漫反射渲染以及镜面反射渲染;
将所述完整反照率映射图、优化后法向量映射图、漫反射渲染以及镜面反射渲染输入所述预设三维人脸模型中进行反映射,得到所述二维人脸图像对应的反照率、漫反射、高光以及法向量。
4.根据权利要求1所述的方法,其特征在于,所述方法还包括:
获取所述人脸表观属性分解网络的各子网络对应的训练样本;
根据所述反照率估计子网络对应的训练样本,采用生成对抗网络和反照率参照库对反照率估计子网络进行训练,得到所述反照率估计子网络的参数,所述反照率参照库中包括反照率参照样本;
根据所述光照估计子网络对应的训练样本,对光照估计子网络进行训练,得到所述光照估计子网络的参数;
根据所述法向量优化子网络对应的训练样本,采用法向量参照库对法向量优化子网络进行训练,得到所述法向量优化子网络的参数,所述法向量参照库中包括法向量参照样本。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京大学,未经北京大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910550324.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:构建模型的方法和装置
- 下一篇:三维唇部重建方法、装置、电子设备及存储介质
- 彩色图像和单色图像的图像处理
- 图像编码/图像解码方法以及图像编码/图像解码装置
- 图像处理装置、图像形成装置、图像读取装置、图像处理方法
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序以及图像解码程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序、以及图像解码程序
- 图像形成设备、图像形成系统和图像形成方法
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序