[发明专利]一种基于自监督课程学习的语音和视觉关联性增强方法有效
申请号: | 202011338294.0 | 申请日: | 2020-11-25 |
公开(公告)号: | CN112465008B | 公开(公告)日: | 2021-09-24 |
发明(设计)人: | 徐行;张静然;沈复民;邵杰;申恒涛 | 申请(专利权)人: | 电子科技大学 |
主分类号: | G06K9/62 | 分类号: | G06K9/62;G10L25/03;G10L25/51;G06N3/04;G06N3/08 |
代理公司: | 电子科技大学专利中心 51203 | 代理人: | 周刘英 |
地址: | 611731 四川省成*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于自监督课程学习的语音和视觉关联性增强方法,涉及多模态的语音和视觉特征表征学习领域。该方法利用对比学习,在teacher‑student框架下提出一种自监督课程学习语音和视觉关联性增强方法,可以保证在无需人工标注的视频数据集上进行训练,以获取高效的语音和视觉表征,并应用于下游任务中。具体地,本发明提出一种两阶段的学习方法来进行语音和视频帧序列对对比学习,以克服直接进行teacher‑student迁移学习的困难性;其次,利用语音和视觉信息的关联性作为潜在自监督信号进行对比迁移训练。本发明获取的语音和视觉卷积网络可弥补下游任务数据集不足而导致的训练困难问题。 | ||
搜索关键词: | 一种 基于 监督 课程 学习 语音 视觉 关联性 增强 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于电子科技大学,未经电子科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202011338294.0/,转载请声明来源钻瓜专利网。