[发明专利]人脸表情迁移方法、装置以及计算机设备在审
申请号: | 202110906728.0 | 申请日: | 2021-08-09 |
公开(公告)号: | CN113705368A | 公开(公告)日: | 2021-11-26 |
发明(设计)人: | 申子宜 | 申请(专利权)人: | 上海幻电信息科技有限公司 |
主分类号: | G06K9/00 | 分类号: | G06K9/00;G06K9/62;G06N3/04;G06N3/08 |
代理公司: | 北京英特普罗知识产权代理有限公司 11015 | 代理人: | 邓小玲;王勇 |
地址: | 200120 上海市浦东新区中国(上海)*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 表情 迁移 方法 装置 以及 计算机 设备 | ||
1.一种人脸表情迁移方法,其特征在于,所述方法包括:
获取第一人脸图像和第二人脸图像;
将所述第一人脸图像和所述第二人脸图像分别执行三维转换,得到对应的第三人脸图像和第四人脸图像;
通过预设的自监督表情重建模型提取所述第四人脸图像的表情数据并融合到所述第三人脸图像,得到新第三人脸图像;
对所述新第三人脸图像执行二维转换,得到新第一人脸图像,所述新第一人脸图像的表情与所述第二人脸图像的表情相一致。
2.如权利要求1所述的人脸表情迁移方法,其特征在于,所述将所述第一人脸图像和所述第二人脸图像分别执行三维转换,得到对应的第三人脸图像和第四人脸图像,包括:
通过学习在不进行三维监督的情况下从图像中回归三维人脸形状和表情的方式,分别从所述第一人脸图像和所述第二人脸图像中分别得到所述第三人脸图像和所述第四人脸图像。
3.如权利要求1或2所述的人脸表情迁移方法,其特征在于,所述自监督表情重建模型是预先将第五人脸图像和第六人脸图像作为训练数据对初始自监督表情重建模型进行训练得到的,其中,所述第五人脸图像和所述第六人脸图像均为三维图像。
4.如权利要求3所述的人脸表情迁移方法,其特征在于,所述将第五人脸图像和第六人脸图像作为训练数据对初始自监督表情重建模型进行训练,包括:
将所述第五人脸图像和所述第六人脸图像输入到初始自监督表情重建模型进行训练,输出第七人脸图像和第八人脸图像,其中,所述第七人脸图像包括所述第五人脸图像的人脸且表情与所述第六人脸图像的表情相一致,所述第八人脸图像包括所述第六人脸图像的人脸且表情与所述第五人脸图像的表情相一致;
将所述第七人脸图像和所述第八人脸图像输入到初始自监督表情重建模型进行训练,输出第九人脸图像和第十人脸图像,其中,所述第九人脸图像包括所述第五人脸图像的人脸且表情与所述第五人脸图像的表情相一致,所述第十人脸图像包括所述第六人脸图像的人脸且表情与所述第六人脸图像的表情相一致;
判断所述第九人脸图像的表情与所述第五人脸的表情的相似度是否超过预设的第一阈值和/或所述第十人脸图像的表情与所述第六人脸的表情的相似度是否超过预设的第二阈值;
若所述第九人脸图像的表情与所述第五人脸的表情的相似度超过所述第一阈值和/或所述第十人脸图像的表情与所述第六人脸的表情的相似度超过所第二阈值,将训练后的初始自监督表情重建模型作为自监督表情重建模型输出;否则,重复执行以上训练步骤。
5.如权利要求1-4中任一项所述的人脸表情迁移方法,其特征在于,所述通过预设的自监督表情重建模型提取所述第四人脸图像的表情数据并融合到所述第三人脸图像,得到新第三人脸图像,包括:
根据所述自监督表情重建模型中的编码器,对第三和第四人脸图像进行编码,得到编码的第三和第四人脸表情特征;
根据所述自监督表情重建模型中的特征提取网络,对第四人脸的表情数据和第四人脸的无表情数据之间的差值进行特征提取,得到差值的特征;
通过所述自监督表情重建模型中的解码器,将所述第四人脸差值的特征和第三人脸表情特征进行融合解码,得到新第三人脸表情图像。
6.如权利要求5所述的人脸表情迁移方法,其特征在于,所述编码器和/或所述解码器为所述自监督表情重建模型中的深度学习子网络。
7.如权利要求1-6中任一项所述的人脸表情迁移方法,其特征在于,所述自监督表情重建模型中的深度学习卷积神经网络的公式包括:
其中,A函数表示图模型;l为深度学习卷积神经网络的层,v为人脸图像中的所有标识点,u为v为人脸图像中的普通标识点,a为人脸图像中的关键点,M为动态加权矩阵。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海幻电信息科技有限公司,未经上海幻电信息科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110906728.0/1.html,转载请声明来源钻瓜专利网。