[发明专利]一种基于视听网络的多模态语音分离方法及装置有效
| 申请号： | 202110208096.0 | 申请日： | 2021-02-24 |
| 公开（公告）号： | CN112863538B | 公开（公告）日： | 2022-06-14 |
| 发明（设计）人： | 何梦雨;程颖;冯瑞 | 申请（专利权）人： | 复旦大学 |
| 主分类号： | G10L21/0272 | 分类号： | G10L21/0272;G10L21/0208;G10L25/57;G10L25/30;G06N3/04;G06N3/08 |
| 代理公司： | 上海德昭知识产权代理有限公司 31204 | 代理人： | 卢泓宇 |
| 地址： | 200433 *** | 国省代码： | 上海;31 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明提供了一种基于视听网络的多模态语音分离方法及装置，用于从待分离音视频中分离出画面中说话人的语音，其特征在于，包括如下步骤：利用第一预处理方法对第一音视频训练数据处理得到第一预处理数据；构建多模态网络模型；将第一预处理数据输入多模态网络模型训练，得到音视频对齐判断模型；利用第二预处理方法对第二音视频训练数据处理得到第二预处理数据；搭建Wave‑U‑Net分割模型，并与音视频对齐判断模型构成视听模型；将第二预处理数据输入视听模型训练，得到视音频分割模型；将待分离音视频输入视音频分割模型得到画面中说话人的语音。其中，将第二预处理数据中的各个子集按照说话人个数由小到大的顺序逐步输入视听模型进行训练。 | ||
| 搜索关键词： | 一种 基于 视听 网络 多模态 语音 分离 方法 装置 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于复旦大学，未经复旦大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202110208096.0/，转载请声明来源钻瓜专利网。
- 上一篇：一种带锚碇的长趾单列沉箱码头结构
- 下一篇：一种用于煤矿机电设备的降温装置
