[发明专利]三维人脸图像重建方法、装置和计算机可读存储介质有效
申请号: | 201810975740.5 | 申请日: | 2018-08-24 |
公开(公告)号: | CN109191507B | 公开(公告)日: | 2019-11-05 |
发明(设计)人: | 陈志兴 | 申请(专利权)人: | 北京字节跳动网络技术有限公司 |
主分类号: | G06T7/50 | 分类号: | G06T7/50;G06T19/20 |
代理公司: | 北京竹辰知识产权代理事务所(普通合伙) 11706 | 代理人: | 陈龙 |
地址: | 100041 北京市石景山区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 人脸图像重建 二维人脸 关键点 三维 表情 人脸 计算机可读存储介质 正则约束项 迭代优化 损失函数 真实状态 求解 预测 人脸图像 系数重建 硬件装置 优化 | ||
1.一种三维人脸图像重建方法,其特征在于,包括:
获取真实二维人脸关键点和预测二维人脸关键点;
通过求解由所述真实二维人脸关键点、所述预测二维人脸关键点和预先设定的附加正则约束项组成的第一损失函数迭代优化出表情系数,所述附加正则约束项用于约束所述表情系数,使所述表情系数表征人脸的真实状态,所述附加正则约束项由核心张量中的表情基向量构成,其中,所述核心张量还包括身份基向量;
通过求解由所述真实二维人脸关键点、所述预测二维人脸关键点和正则约束项组成的第二损失函数迭代优化出身份系数;
将所述表情系数和所述身份系数与所述核心张量做点积,得到所述三维人脸图像。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
获取多个人不同表情的三维人脸模型及各三维人脸模型上的三维人脸关键点;
将所述三维人脸模型和所述三维人脸关键点在表情维度进行具有语义的分解,得到三维可形变模型的核心张量中的表情基向量,由所述表情基向量构成所述附加正则约束项。
3.根据权利要求2所述的方法,其特征在于,所述附加正则约束项为
其中,||·||表示向量二范数,λsym表示除眼睛以外的正则项系数,LB表示除眼睛以外的左半部分人脸的表情基向量的索引集合,RB表示除眼睛以外的右半部分人脸的表情基向量的索引集合,ei表示眼睛以外的左半部分人脸的第i个表情系数,ej表示眼睛以外的右半部分人脸的第j个表情系数;
或为
其中,λeye表示眼睛部分的正则项系数,LE表示与左眼相关的表情基向量的索引集合,RE表示与右眼相关的表情基向量的索引集合,ei表示左眼相关的第i个表情系数,ej表示右眼相关的第j个表情系数;
或为
4.根据权利要求3所述的方法,其特征在于,若所述附加正则约束项为所述第一损失函数为
或,若所述附加正则约束项为相应的,所述第一损失函数为
或,若所述附加正则约束项为相应的,所述第一损失函数为
其中,LP表示预测二维人脸关键点位置,Lt表示真实二维人脸关键点位置,λ表示人脸整体正则项系数,e表示人脸整体表情系数。
5.根据权利要求3或4所述的方法,其特征在于,所述
其中,α表示单只眼闭合时的正则项系数,β表示两只眼闭合或两只眼睁开时的正则项系数。
6.根据权利要求5所述的方法,其特征在于,所述方法还包括:
分别根据两眼上下眼皮的二维关键点的距离确定眼睛闭合状态;
根据所述眼睛闭合状态确定所述λeye的取值,且α小于β。
7.根据权利要求2所述的方法,其特征在于,所述方法还包括:
将所述三维人脸模型和所述三维人脸关键点在身份维度进行分解,得到所述核心张量中的身份基向量;
根据包含身份基向量和表情基向量的所述核心张量得到所述预测二维人脸关键点。
8.根据权利要求7所述的方法,其特征在于,所述根据所述核心张量得到所述预测二维人脸关键点的步骤,包括:
根据预先设置的身份系数的初始值、预先设置的表情系数的初始值及所述核心张量构建初始三维人脸图像;
将所述初始三维人脸图像进行旋转平移操作,并通过小孔成像将所述初始三维人脸图像上的三维人脸标志点投影在图片上,得到所述预测二维人脸关键点。
9.根据权利要求1所述的方法,其特征在于,所述方法还包括:
通过求解由所述真实二维人脸关键点和所述预测二维人脸关键点组成的第三损失函数迭代优化出旋转矩阵、平移向量和焦距中的至少一个参数;
采用上述至少一个参数对所述三维人脸图像进行校正。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京字节跳动网络技术有限公司,未经北京字节跳动网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810975740.5/1.html,转载请声明来源钻瓜专利网。