[发明专利]一种内容检索方法、装置和计算机可读存储介质在审
申请号: | 202110733613.6 | 申请日: | 2021-06-30 |
公开(公告)号: | CN113821687A | 公开(公告)日: | 2021-12-21 |
发明(设计)人: | 王文哲;张梦丹;彭湃;孙星 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F16/783 | 分类号: | G06F16/783;G06F16/9532 |
代理公司: | 深圳翼盛智成知识产权事务所(普通合伙) 44300 | 代理人: | 李汉亮 |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 内容 检索 方法 装置 计算机 可读 存储 介质 | ||
1.一种内容检索方法,其特征在于,包括:
获取用于检索目标内容的待检索内容;
当所述待检索内容为视频内容时,对所述视频内容进行多模态特征提取,得到每一模态的模态特征;
分别对每一模态的模态特征进行特征提取,得到每一模态的模态内容特征;
将所述模态内容特征进行融合,得到所述视频内容的视频特征,并根据所述视频特征,在预设内容集合中检索出所述视频内容对应的目标文本内容。
2.根据权利要求1所述的内容检索方法,其特征在于,所述对所述视频内容进行多模态特征提取,得到每一模态的模态特征,包括:
采用训练后内容检索模型对所述视频内容进行多模态特征提取,得到所述视频内容中每一模态的初始模态特征;
在所述视频内容中提取出视频帧,并采用所述训练后内容检索模型对所述视频帧进行多模态特征提取,得到每一视频帧的基础模态特征;
在所述基础模态特征中筛选出每一模态对应的目标模态特征,并将所述目标模态特征和对应的初始模态特征进行融合,得到每一模态的视频内容对应的模态特征。
3.根据权利要求2所述的内容检索方法,其特征在于,所述分别对每一模态的模态特征进行特征提取,得到每一模态的模态视频特征,包括:
在所述训练后内容检索模型的视频特征提取网络中识别出每一模态对应的目标视频特征提取网络;
采用所述目标视频特征提取网络对所述模态特征进行特征提取,得到每一模态的模态视频特征。
4.根据权利要求2所述的内容检索方法,其特征在于,所述采用训练后内容检索模型对所述视频内容进行多模态特征提取,得到所述视频内容中每一模态的初始模特特征之前,还包括:
获取内容样本集合,所述内容样本集合包括视频样本和文本样本,所述文本样本包括至少一个文本词;
采用预设内容检索模型对所述视频样本进行多模态特征提取,得到每一模态的样本模态特征;
分别对每一模态的样本模态特征进行特征提取,得到所述视频样本的样本模态内容特征,并将所述样本模态内容特征进行融合,得到所述视频样本的样本视频特征;
对所述文本样本进行特征提取,得到样本文本特征和每一文本词对应的文本词特征,并根据所述样本模态内容特征、样本视频特征、样本文本特征和文本词特征,对所述预设内容检索模型进行收敛,得到所述训练后内容检索模型。
5.根据权利要求4所述的内容检索方法,其特征在于,所述根据所述样本模态内容特征、样本视频特征、样本文本特征和文本词特征,对所述预设内容检索模型进行收敛,得到所述训练后内容检索模型,包括:
根据所述样本模态内容特征和文本词特征,确定所述内容样本集合的特征损失信息;
基于所述样本视频特征和样本文本特征,确定所述内容样本集合的内容损失信息;
将所述特征损失信息和内容损失信息进行融合,并基于融合后损失信息,对预设内容检索模型进行收敛,得到训练后内容检索模型。
6.根据权利要求5所述的内容检索方法,其特征在于,所述根据所述样本模态内容特征和文本词特征,确定所述内容样本集合的特征损失信息,包括:
计算所述样本模态内容特征和文本词特征之间的特征相似度,得到第一特征相似度;
根据所述第一特征相似度,确定所述视频样本和文本样本之间的样本相似度;
基于所述样本相似度,计算所述视频样本与文本样本之间的特征距离,以得到所述内容样本集合的特征损失信息。
7.根据权利要求6所述的内容检索方法,其特征在于,所述根据所述第一特征相似度,确定所述视频样本和文本样本之间的样本相似度,包括:
根据所述第一特征相似度,将所述样本模态内容特征与文本词特征进行特征交互,得到交互后视频特征和交互后文本词特征;
计算所述交互后视频特征与交互后文本词特征之间的特征相似度,得到第二特征相似度;
将所述第二特征相似度进行融合,得到所述视频样本和文本样本之间的样本相似度。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110733613.6/1.html,转载请声明来源钻瓜专利网。
- 内容再现系统、内容提供方法、内容再现装置、内容提供装置、内容再现程序和内容提供程序
- 内容记录系统、内容记录方法、内容记录设备和内容接收设备
- 内容服务系统、内容服务器、内容终端及内容服务方法
- 内容分发系统、内容分发装置、内容再生终端及内容分发方法
- 内容发布、内容获取的方法、内容发布装置及内容传播系统
- 内容提供装置、内容提供方法、内容再现装置、内容再现方法
- 内容传输设备、内容传输方法、内容再现设备、内容再现方法、程序及内容分发系统
- 内容发送设备、内容发送方法、内容再现设备、内容再现方法、程序及内容分发系统
- 内容再现装置、内容再现方法、内容再现程序及内容提供系统
- 内容记录装置、内容编辑装置、内容再生装置、内容记录方法、内容编辑方法、以及内容再生方法