[发明专利]一种基于多模态特征的视频实体关系及交互识别方法在审
申请号: | 202111116334.1 | 申请日: | 2021-09-23 |
公开(公告)号: | CN113936236A | 公开(公告)日: | 2022-01-14 |
发明(设计)人: | 任桐炜;武港山;张贝贝;于凡;高妍欣 | 申请(专利权)人: | 南京大学 |
主分类号: | G06V20/40 | 分类号: | G06V20/40;G06V40/10;G06V40/16;G06V10/25;G06V10/26;G06V10/46;G06V10/764;G06K9/62;G06F40/211;G06F40/295;G06F40/30 |
代理公司: | 南京天翼专利代理有限责任公司 32112 | 代理人: | 奚铭 |
地址: | 210093 江*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 一种基于多模态特征的视频实体关系及交互识别方法,对影片中实体之间的交互进行预测识别:对影片根据场景划分为中片段,对中片段分别向上聚合为长片段,向下分割为短片段,对于每个中片段,将提取的实体特征、实体对特征、视频片段特征、音频特征和文字特征进行拼接作为该片段的融合特征,取平均作为长片段的特征预测长片段中的实体关系,并将该平均特征连接到每一个中片段特征,用于预测对应的中片段中的实体之间的互动,实体关系和实体互动同时进行预测,并联合训练对应的识别网络。本发明将长视频分为三种长度的视频,对长片段预测实体关系,对中片段预测实体交互和场景状态,对短片段预测实体交互,构建出实体关系图和互动图。 | ||
搜索关键词: | 一种 基于 多模态 特征 视频 实体 关系 交互 识别 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京大学,未经南京大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202111116334.1/,转载请声明来源钻瓜专利网。