[发明专利]一种基于多模态相关性的人脸动画生成方法及系统有效
申请号: | 202110718414.8 | 申请日: | 2021-06-28 |
公开(公告)号: | CN113450436B | 公开(公告)日: | 2022-04-15 |
发明(设计)人: | 熊盛武;马宜祯;陈燚雷;邓梦涵;曾瑞 | 申请(专利权)人: | 武汉理工大学 |
主分类号: | G06T13/20 | 分类号: | G06T13/20;G06T13/40;G06T13/80;G06T15/00;G06V40/16;G06V10/82;G10L15/02;G06N3/04;G06N3/08 |
代理公司: | 武汉科皓知识产权代理事务所(特殊普通合伙) 42222 | 代理人: | 肖明洲 |
地址: | 430070 湖*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于多模态相关性的人脸动画生成方法及系统,首先提出了一个基于多模态相关性的人脸动画生成神经网络框架;在网络结构上,首先提出使用多Transformer结构来建模语音驱动人脸动画生成任务中语音模态、图像模态以及语音/图像跨模态的相关性,并基于这种相关性计算驱动语音对应的人脸表情特征,从而提高生成的人脸动画的真实性和流畅性。在网络结构的基础上,创新性地将源视频引入训练过程,可以达到对驱动语音更准确的表情预测结果。另外,单语音模态驱动的方法只能在唇部上生成较好的动画结果,而引入源视频可以提高除唇部区域以外其他面部区域的真实性,从而生成更逼真的人脸动画结果。 | ||
搜索关键词: | 一种 基于 多模态 相关性 动画 生成 方法 系统 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于武汉理工大学,未经武汉理工大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202110718414.8/,转载请声明来源钻瓜专利网。