[发明专利]语音和动作时间同步的方法在审
申请号: | 202211060769.3 | 申请日: | 2022-08-30 |
公开(公告)号: | CN115497499A | 公开(公告)日: | 2022-12-20 |
发明(设计)人: | 祖新星;张家硕;赵中州;韩玉洁;林淼;王琪;吴淑明 | 申请(专利权)人: | 阿里巴巴(中国)有限公司 |
主分类号: | G10L21/10 | 分类号: | G10L21/10;G10L21/057;G10L21/055 |
代理公司: | 北京智信禾专利代理有限公司 11637 | 代理人: | 赵杰 |
地址: | 311121 浙江省杭州市余杭*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 语音 动作 时间 同步 方法 | ||
1.一种语音和动作时间同步的方法,包括:
提取当前语音的文本信息,并确定所述当前语音的语音时长;
将所述文本信息通过预设算法进行处理,获得初始动作视频;
根据所述语音时长以及所述初始动作视频的动作时长,确定所述当前语音与所述初始动作视频的当前同步时间差;
在所述当前同步时间差大于等于预设时间阈值的情况下,将预期动作生成时长以及所述文本信息,通过所述预设算法进行处理,确定目标动作视频,
其中,所述预期动作生成时长根据所述当前同步时间差确定。
2.根据权利要求1所述的语音和动作时间同步的方法,所述将所述文本信息通过预设算法进行处理,获得与所述文本信息对应的初始动作视频,包括:
将所述文本信息输入动作识别模型,获取与所述文本信息对应的动作文本;
将所述动作文本输入动作编辑模型,获得与所述动作文本对应的初始动作视频。
3.根据权利要求2所述的语音和动作时间同步的方法,所述将所述文本信息输入动作识别模型,获取与所述文本信息对应的动作文本,包括:
在确定所述当前语音存在前一句历史语音的情况下,确定所述前一句历史语音、与所述前一句历史语音对应的历史动作视频的历史同步时间差;
在所述历史同步时间差小于所述预设时间阈值的情况下,将所述文本信息以及所述历史同步时间差输入动作识别模型,获得与所述文本信息对应的动作文本。
4.根据权利要求1或3所述的语音和动作时间同步的方法,所述根据所述语音时长以及所述初始动作视频的动作时长,确定所述当前语音与所述初始动作视频的当前同步时间差,包括:
根据所述语音时长以及所述初始动作视频的动作时长,确定所述当前语音与所述初始动作视频的当前时间差;
根据所述当前时间差、以及历史语音的历史时间差,确定所述当前语音与所述初始动作视频的当前同步时间差,
其中,所述历史时间差根据所述历史语音的语音时长、与所述历史语音对应的历史动作视频的动作时长确定。
5.根据权利要求4所述的语音和动作时间同步的方法,所述根据所述当前时间差、以及历史语音的历史时间差,确定所述当前语音与所述初始动作视频的当前同步时间差,包括:
根据所述当前时间差以及前一句历史语音的历史时间差,确定时间差变化值;
根据所述当前时间差、所述历史语音的累计历史时间差、以及所述时间差变化值,确定确定所述当前语音与所述初始动作视频的当前同步时间差。
6.根据权利要求1所述的语音和动作时间同步的方法,所述根据预期动作生成时长以及所述文本信息,通过所述预设算法进行处理,确定目标动作视频之前,还包括:
根据所述语音时长、动作平均时长、以及所述当前同步时间差,确定预期动作生成时长,
其中,所述动作平均时长通过历史动作视频的动作时长、以及所述初始动作视频的动作时长确定。
7.根据权利要求1所述的语音和动作时间同步的方法,所述根据预期动作生成时长以及所述文本信息,通过所述预设算法进行处理,确定目标动作视频之前,还包括:
根据所述当前同步时间差、历史语音与所述历史语音对应的历史动作视频的历史同步时间差,确定预期动作生成时长。
8.根据权利要求2所述的语音和动作时间同步的方法,所述将预期动作生成时长以及所述文本信息,通过所述预设算法进行处理,确定目标动作视频,包括:
将预期动作生成时长以及所述文本信息输入所述动作识别模型,获取与所述文本信息对应的更新动作文本;
将所述更新动作文本输入所述动作编辑模型,获得与所述更新动作文本对应的更新动作视频;
根据所述语音时长以及所述更新动作视频的动作时长,确定所述当前语音与所述更新动作视频的更新同步时间差;
在所述更新同步时间差小于所述预设时间阈值的情况下,将所述更新动作视频确定为目标动作视频。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴(中国)有限公司,未经阿里巴巴(中国)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211060769.3/1.html,转载请声明来源钻瓜专利网。
- 上一篇:自动化布料摊平设备及施工方法
- 下一篇:一种新型组合式卫浴电采暖装置