[发明专利]数字人渲染方法、系统、存储介质和电子设备在审
申请号: | 202111212383.5 | 申请日: | 2021-10-18 |
公开(公告)号: | CN113850899A | 公开(公告)日: | 2021-12-28 |
发明(设计)人: | 常向月;王雨辰;穆少垒 | 申请(专利权)人: | 深圳追一科技有限公司 |
主分类号: | G06T15/00 | 分类号: | G06T15/00 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 李慧慧 |
地址: | 518000 广东省深圳市南山区粤海街道*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数字 渲染 方法 系统 存储 介质 电子设备 | ||
1.一种数字人渲染方法,其特征在于,包括:
获得用户输入的交互信号,其中,所述交互信号为涉及与数字人进行交互的用户音频信号或者用户触控信号;
将所述交互信号发送至数字人服务器,以获得所述数字人服务器针对所述交互信号所响应的响应音频信号;
将所述响应音频信号发送至数字人神态模块,以获得所述数字人神态模块针对所述响应音频信号输出的数字人神态数据,其中,所述数字人神态数据包括:数字人嘴型数据和数字人动作数据;
将所述数字人神态数据发送至UE 3D渲染模块,使得所述UE 3D渲染模块根据所述数字人神态数据,渲染相应数字人在3D交互场景中的嘴型和动作,其中,所述嘴型与数字人嘴型数据相匹配,所述动作与所述数字人动作数据相匹配。
2.根据权利要求1所述的方法,其特征在于,在所述将所述响应音频信号发送至数字人神态模块之后,所述方法还包括:
将所述响应音频信号发送至所述UE 3D渲染模块,使得所述UE 3D渲染模块根据所述数字人神态数据和响应音频信号,渲染相应数字人在所述3D交互场景中的嘴型和动作均与所述响应音频信号保持匹配。
3.根据权利要求1所述的方法,其特征在于,所述获得用户输入的交互信号,包括:
获得所述用户通过前端APP中的所述3D交互场景发送至所述UE 3D渲染模块的网络层,并由所述网络层确定为涉及与数字人进行交互的交互信号。
4.根据权利要求1所述的方法,其特征在于,所述将所述数字人神态数据发送至UE 3D渲染模块,使得所述UE 3D渲染模块根据所述数字人神态数据,渲染相应数字人在所述3D交互场景中的嘴型和动作,包括:
将所述数字人神态数据发送至所述UE 3D渲染模块的网络层,使得所述网络层将所述数字人神态数据发送至所述UE 3D渲染模块的渲染层,进一步使得所述渲染层根据所述数字人神态数据调用UE渲染接口,从而渲染所述UE 3D渲染模块的资源层中的所述3D交互场景,以及所述数字人的嘴型和动作。
5.根据权利要求1所述的方法,其特征在于,所述将所述数字人神态数据发送至UE 3D渲染模块,使得所述UE 3D渲染模块根据所述数字人神态数据,渲染相应数字人在所述3D交互场景中的嘴型和动作,包括:
将所述数字人神态数据发送至UE 3D渲染模块,使得所述UE 3D渲染模块根据所述数字人神态数据,渲染相应数字人在所述3D交互场景中的嘴型和动作,以获得所述数字人在所述3D交互场景中的音视频流,并由所述所述UE 3D渲染模块将音视频流发送至前端APP,进一步使得所述前端APP通过电子屏幕播放所述音视频流。
6.一种数字人渲染系统,其特征在于,包括:中控模块,所述中控模块包括:交互信号获得单元、响应信号发送单元、神态数据获得单元和第一渲染单元;
所述交互信号获得单元,用于获得用户输入的交互信号,其中,所述交互信号为涉及与数字人进行交互的用户音频信号或者用户触控信号;
所述响应信号发送单元,用于将所述交互信号发送至数字人服务器,以获得所述数字人服务器针对所述交互信号所响应的响应音频信号;
所述神态数据获得单元,用于将所述响应音频信号发送至数字人神态模块,以获得所述数字人神态模块针对所述响应音频信号输出的数字人神态数据,其中,所述数字人神态数据包括:数字人嘴型数据和数字人动作数据;
所述第一渲染单元,用于将所述数字人神态数据发送至UE 3D渲染模块,使得所述UE3D渲染模块根据所述数字人神态数据,渲染相应数字人在所述3D交互场景中的嘴型和动作,其中,所述嘴型与数字人嘴型数据相匹配,所述动作与所述数字人动作数据相匹配。
7.根据权利要求6所述的系统,其特征在于,所述中控模块还包括:第二渲染单元;
所述第二渲染单元,用于在所述将所述响应音频信号发送至数字人神态模块之后,将所述响应音频信号发送至所述UE 3D渲染模块,使得所述UE 3D渲染模块根据所述数字人神态数据和响应音频信号,渲染相应数字人在所述3D交互场景中的嘴型和动作均与所述响应音频信号保持匹配。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳追一科技有限公司,未经深圳追一科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111212383.5/1.html,转载请声明来源钻瓜专利网。