[发明专利]三维模型生成方法、装置、计算机设备及存储介质有效
申请号: | 202010621454.6 | 申请日: | 2020-06-30 |
公开(公告)号: | CN111784821B | 公开(公告)日: | 2023-03-14 |
发明(设计)人: | 王鹏睿;林纯泽;王权;钱晨 | 申请(专利权)人: | 北京市商汤科技开发有限公司 |
主分类号: | G06T17/00 | 分类号: | G06T17/00;G06T7/529;G06T5/50;G06F18/2135;G06N3/045;G06N3/08 |
代理公司: | 北京中知恒瑞知识产权代理事务所(普通合伙) 11889 | 代理人: | 王文红 |
地址: | 100142 北京市海淀区北*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 三维 模型 生成 方法 装置 计算机 设备 存储 介质 | ||
1.一种三维模型生成方法,其特征在于,包括:
获取包括第一人脸的第一图像;
基于所述第一图像,确定包括第一人脸的轮廓信息的第一点云数据;
基于所述第一点云数据以及所述第一图像,确定所述第一人脸的第一反射率信息以及包括所述第一人脸的细节信息的第二点云数据;
基于所述第一反射率信息以及所述第二点云数据,生成所述第一人脸的三维模型;
其中,所述基于所述第一点云数据以及所述第一图像,确定所述第一人脸的第一反射率信息以及包括所述第一人脸的细节信息的第二点云数据,包括:
基于所述第一点云数据以及所述第一图像,确定所述第一人脸的第一人脸纹理图;
对所述第一人脸纹理图进行反射率信息的预测处理,得到所述第一人脸的第一反射率信息;以及
对所述第一人脸纹理图进行人脸细节的预测处理,并基于所述人脸细节的预测处理的结果,得到所述第一人脸的第二点云数据。
2.根据权利要求1所述的三维模型生成方法,其特征在于,所述第一点云数据包括:构成所述第一人脸的多个第一点云点分别在相机坐标系下的三维坐标值、以及不同所述第一点云点之间的连接关系信息。
3.根据权利要求2所述的三维模型生成方法,其特征在于,所述基于所述第一点云数据以及所述第一图像,确定所述第一人脸的第一人脸纹理图,包括:
基于多个所述第一点云点分别在相机坐标系下的三维坐标值,将多个所述第一点云点分别与所述第一图像中的多个第一像素点进行对齐处理;
基于对齐处理的结果、不同所述第一点云点之间的连接关系信息以及所述第一图像中各个第一像素点的第一像素值,确定构成所述第一人脸的多个面片分别对应的第二像素值;其中,任一所述面片为由至少三个具有连接关系的第一点云点构成;
基于所述多个面片分别对应的第二像素值,生成所述第一人脸纹理图。
4.根据权利要求2或3所述的三维模型生成方法,其特征在于,所述人脸细节的预测处理的结果包括:所述第一人脸的第一人脸细节信息;
所述基于所述人脸细节的预测处理的结果,得到所述第一人脸的第二点云数据,包括:
将所述第一点云数据以及所述第一人脸细节信息进行融合处理,得到所述第二点云数据。
5.根据权利要求4所述的三维模型生成方法,其特征在于,所述第一人脸细节信息包括:多个所述第一点云点中的每个第一点云点在与所述每个第一点云点对应的第一法向量方向的移动距离;
对所述第一点云数据以及所述第一人脸细节信息进行融合处理,生成所述第二点云数据,包括:
基于多个所述第一点云点中的每个第一点云点在与所述每个第一点云点对应的第一法向量方向的移动距离、以及所述每个点云点在相机坐标系中的三维坐标值,对每个所述第一点云点在所述相机坐标系中的位置进行调整;
基于多个所述第一点云点的调整结果,得到所述第二点云数据。
6.根据权利要求1-3任一项所述的三维模型生成方法,其特征在于,所述对所述第一人脸纹理图进行反射率信息的预测处理,得到所述第一人脸的第一反射率信息,包括:
利用预先训练的第一神经网络对所述第一人脸纹理图进行反射率信息的预测处理,得到所述第一人脸的第一反射率信息。
7.根据权利要求6所述的三维模型生成方法,其特征在于,采用下述方式训练所述第一神经网络:
获取包括第二人脸的第二图像,并基于所述第二图像,得到包括第二人脸的轮廓信息的第三点云数据;
基于所述第三点云数据,得到第二人脸的第二人脸纹理图;
利用待训练的第三神经网络,对所述第二人脸纹理图进行反射率的预测处理、以及光照的预测处理,得到所述第二人脸的第二反射率信息、及所述第二人脸的第一光照信息;
以及,利用待训练的第一神经网络,对所述第二人脸纹理图进行反射率的预测处理,得到所述第二人脸的第三反射率信息;
利用所述第二反射率信息、所述第一光照信息以及所述第三反射率信息,对所述待训练的第一神经网络和待训练的第三神经网络进行联合训练,得到训练好的第一神经网络。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京市商汤科技开发有限公司,未经北京市商汤科技开发有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010621454.6/1.html,转载请声明来源钻瓜专利网。