[发明专利]视频处理方法、装置、终端设备及存储介质在审
申请号: | 201910511183.6 | 申请日: | 2019-06-13 |
公开(公告)号: | CN110400251A | 公开(公告)日: | 2019-11-01 |
发明(设计)人: | 马凯;杨国基 | 申请(专利权)人: | 深圳追一科技有限公司 |
主分类号: | G06T3/00 | 分类号: | G06T3/00;G06T13/20;G06T13/80;G06N20/00;G06F16/332;G06F16/33 |
代理公司: | 深圳市智圈知识产权代理事务所(普通合伙) 44351 | 代理人: | 苗燕 |
地址: | 518057 广东省深圳市粤海街*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 交互信息 音频信息 视频 面部特征 模拟人脸 答复 机器学习模型 存储介质 人脸图像 视频处理 终端设备 图像 客服 预设 机器人 替换 多模态交互 企业级应用 对话内容 申请 输出 对话 优化 | ||
本申请公开了一种视频处理方法、装置、终端设备及存储介质,该方法包括:获取用户输入的交互信息;对交互信息进行识别,获取与交互信息对应的特定音频信息;将特定音频信息输入至第一机器学习模型,获得与特定音频信息对应的面部特征点;将面部特征点输入至第二机器学习模型,获得与面部特征点对应的模拟人脸图像;将预设视频中的预设人脸图像替换为模拟人脸图像,并获得替换人脸图像后的包含模拟人脸图像的答复视频;输出针对交互信息的答复视频,答复视频中包含特定音频信息。本申请可以在用户与机器人对话时,针对用户的对话内容,提供模拟真人的答复视频,实现多模态交互,可适用于企业级应用,提供客服型机器人,优化客服体验。
技术领域
本申请涉及终端设备技术领域,更具体地,涉及一种视频处理方法、装置、终端设备及存储介质。
背景技术
目前,手机等移动终端设备的普及率越来越高,智能手机已成为人们出行的必备随身物品。随着移动互联网发展迅速,移动终端上出现了各种各样的应用程序,这其中许多应用程序可以为用户提供客服功能,使得用户能够通过客服来进行产品咨询等业务。
一般而言,在移动端应用程序内,企业为用户提供的客服功能通常包含机器人客服和人工客服两部分。面对一些简单或常见的问题,通常可以由机器人客服对用户的问题进行回答,而对一些复杂或特殊的问题,则可通过转接人工客服来进行处理。
随着人工智能相关技术的发展,机器人客服的功能越来越强,能够适用的场景也越来越多,大大提高了客服效率,节省了人工资源。然而,目前的机器人客服大多为通过文字的方式与用户对话,用户体验较为单一。
发明内容
鉴于上述问题,本申请提出了一种视频处理方法、装置、终端设备及存储介质,可实现多模态交互,提升用户体验。
第一方面,本申请实施例提供了一种视频处理方法,该方法包括:获取用户输入的交互信息;对交互信息进行识别,获取与交互信息对应的特定音频信息;将特定音频信息输入至第一机器学习模型,获得与特定音频信息对应的面部特征点;将面部特征点输入至第二机器学习模型,获得与面部特征点对应的模拟人脸图像,第二机器学习模型为生成对抗网络模型,模拟人脸图像为二维人脸图像;将预设视频中的预设人脸图像替换为模拟人脸图像,并获得替换人脸图像后的包含模拟人脸图像的答复视频,预设人脸图像为二维人脸图像,将预设视频中的预设人脸图像替换为模拟人脸图像为基于二维图像处理的图像替换;输出针对交互信息的答复视频,答复视频中包含特定音频信息。
进一步的,所述交互信息包括语音信息、文本信息、图像信息中的至少一种,所述对所述交互信息进行识别,获取与所述交互信息对应的特定音频信息,包括:对所述交互信息进行识别,获取与所述交互信息对应的交互文本;在问答库中查询并获取与所述交互文本对应的答复文本;合成与所述答复文本对应的特定音频信息。
进一步的,所述视频处理方法还包括:获取第一训练样本集,所述第一训练样本集包括从第一预训练视频中抽取的人脸图像的面部特征点以及与所述面部特征点对应的音频;将所述第一训练样本集输入所述第一机器学习模型,对所述第一机器学习模型进行训练;获取第二训练样本集,所述第二训练样本集包括从第二预训练视频中抽取的人脸图像以及与所述人脸图像对应的面部特征点;将所述第二训练样本集输入所述第二机器学习模型,对所述第二机器学习模型进行训练。
进一步的,所述第二预训练视频与所述预设视频中的人脸图像为同一人的人脸图像。
进一步的,所述第一预训练视频与所述第二预训练视频中的人脸图像为同一人或不同人的人脸图像。
进一步的,所述将预设视频中的预设人脸图像替换为所述模拟人脸图像,包括:在预设视频中确定与所述模拟人脸图像对应的图像替换区域,所述图像替换区域为所述预设视频中的预设人脸图像的局部区域或全部区域;将所述模拟人脸图像覆盖至所述图像替换区域。
进一步的,所述面部特征点包括唇形特征点、面部轮廓特征点以及人脸细节特征点中的至少一种。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳追一科技有限公司,未经深圳追一科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910511183.6/2.html,转载请声明来源钻瓜专利网。
- 上一篇:基于AI的智能图像预处理方法及系统
- 下一篇:料场等高线数字化方法及系统