[发明专利]虚拟人物的驱动方法、装置、设备及存储介质在审
申请号: | 201910944850.X | 申请日: | 2019-09-30 |
公开(公告)号: | CN112667068A | 公开(公告)日: | 2021-04-16 |
发明(设计)人: | 林成龙 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F3/01 | 分类号: | G06F3/01;G06F40/205;G06K9/00;G06T13/00;G10L15/26 |
代理公司: | 北京同立钧成知识产权代理有限公司 11205 | 代理人: | 朱颖;刘芳 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 虚拟 人物 驱动 方法 装置 设备 存储 介质 | ||
1.一种虚拟人物的驱动方法,其特征在于,包括:
获取待处理素材,所述待处理素材为如下内容中的任意一种:视频、语音、文本;
对所述待处理素材进行处理,得到所述待处理素材中目标虚拟人物的驱动数据,所述驱动数据包括:情感数据以及所述情感数据对应的面部表情向量和身体姿态向量;
在播放所述待处理素材对应目标视频时,基于所述驱动数据驱动所述目标虚拟人物执行相应的动作。
2.根据权利要求1所述的方法,其特征在于,所述在播放所述待处理素材对应目标视频时,基于所述驱动数据驱动所述目标虚拟人物执行相应的动作,包括:
在播放所述待处理素材对应目标视频时,将所述驱动数据中的面部表情向量映射到所述目标虚拟人物的人脸关键点上,驱动所述目标虚拟人物做出所述面部表情向量对应的表情;
将所述驱动数据中的身体姿态向量映射到所述目标虚拟人物的身体关键点上,驱动所述目标虚拟人物做出所述身体姿态向量对应的姿态;
控制所述目标虚拟人物以所述情感数据发出语音。
3.根据权利要求1或2所述的方法,其特征在于,所述待处理素材为待处理视频时,所述对所述待处理素材进行处理,得到所述待处理素材中目标虚拟人物的驱动数据,包括:
对所述待处理视频中的包含目标虚拟人物的每帧图片进行处理,确定每帧图片中的人脸区域和身体区域;
对每帧图片中人脸区域的面部表情进行量化,得到所述目标虚拟人物的面部表情向量;
对每帧图片中身体区域的身体姿态进行量化,得到所述目标虚拟人物的身体姿态向量;
对所述待处理视频中所述目标虚拟人物的语音进行识别,确定所述目标虚拟人物的情感数据;
对所述目标虚拟人物的面部表情向量、身体姿态向量和情感数据进行整合,得到所述目标虚拟人物的驱动数据。
4.根据权利要求3所述的方法,其特征在于,所述对所述每帧图片中人脸区域的面部表情进行量化,得到所述目标虚拟人物的面部表情向量,包括:
对所述待处理视频中的人脸区域进行检测,确定所述目标虚拟人物的多个人脸关键点;
根据所有人脸关键点的位置信息、以及相邻人脸关键点之间的相互关系,对所述目标虚拟人物的面部表情进行量化,得到所述目标虚拟人物的面部表情向量。
5.根据权利要求1所述的方法,其特征在于,所述待处理素材为待处理语音时,所述对所述待处理素材进行处理,得到所述待处理素材中目标虚拟人物的驱动数据,包括:
从所述待处理语音中抽取所述目标虚拟人物的语音,得到目标语音;
利用语音识别方法,将所述目标语音转换为目标文本;
基于神经语言程序学方法对所述目标文本进行分析,确定所述目标虚拟人物的情感数据;
根据所述情感数据和预先存储的面部表情向量、身体姿态向量与情感数据的关联关系,确定所述目标虚拟人物的面部表情向量和身体姿态向量;
对所述目标虚拟人物的面部表情向量、身体姿态向量和情感数据进行整合,得到所述目标虚拟人物的驱动数据。
6.根据权利要求1所述的方法,其特征在于,所述待处理素材为待处理文本时,所述对所述待处理素材进行处理,得到所述待处理素材中目标虚拟人物的驱动数据,包括:
基于神经语言程序学方法对所述待处理文本进行分析,确定所述目标虚拟人物的情感数据;
根据所述情感数据和预先存储的面部表情向量、身体姿态向量与情感数据的关联关系,确定所述目标虚拟人物的面部表情向量、身体姿态向量;
对所述目标虚拟人物的面部表情向量、身体姿态向量和情感数据进行整合,得到所述目标虚拟人物的驱动数据。
7.根据权利要求5或6所述的方法,其特征在于,所述方法还包括:
获取历史视频数据集合,所述历史视频数据集合包括多段视频数据,每段视频数据均包括至少一个虚拟人物;
对所述多段视频数据中每个虚拟人物的面部表情向量、身体姿态向量和情感数据进行分析,建立并存储面部表情向量、身体姿态向量与情感数据的关联关系。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910944850.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种人脸识别方法、装置、系统及存储介质
- 下一篇:一种耳机及其翻译方法和装置