[发明专利]一种基于生成对抗网络的视频内容理解方法及装置在审
申请号: | 201910913294.X | 申请日: | 2019-09-25 |
公开(公告)号: | CN110717421A | 公开(公告)日: | 2020-01-21 |
发明(设计)人: | 樊硕 | 申请(专利权)人: | 北京影谱科技股份有限公司 |
主分类号: | G06K9/00 | 分类号: | G06K9/00;G06K9/62 |
代理公司: | 11694 北京万思博知识产权代理有限公司 | 代理人: | 高镇 |
地址: | 100000 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 目标域 视频内容 域数据 新源 微调 申请 参数调节模块 语句生成模块 对视频内容 视频处理 图像向量 训练模块 训练数据 域间 源域 对抗 分类 网络 | ||
1.一种基于生成对抗网络的视频内容理解方法,包括:
采用GAN模型对源域数据进行处理,以得到与目标域数据贴近的新源域数据;
采用新源域数据作为训练数据对ResNet模型进行预训练;
将目标域数据作为训练完成后的ResNet模型的输入,微调ResNet模型的参数,使其能够学习目标域数据特征并适应于目标域数据;
将微调后形成的目标域数据的图像向量特征作为LSTM的输入,生成与视频图像特征相关的描述语句,完成对视频内容的理解。
2.根据权利要求1所述的方法,其特征在于,采用CNN模型作为所述GAN模型中生成器的编码器。
3.根据权利要求2所述的方法,其特征在于,采用ReLU作为所述编码器的激活函数。
4.一种基于生成对抗网络的视频内容理解装置,包括:
域间差距降低模块,其配置成采用GAN模型对源域数据进行处理,以得到与目标域数据贴近的新源域数据;
训练模块,其配置成采用新源域数据作为训练数据对ResNet模型进行预训练;
参数调节模块,其配置成将目标域数据作为训练完成后的ResNet模型的输入,微调ResNet模型的参数,使其能够学习目标域数据特征并适应于目标域数据;和
描述语句生成模块:其配置成将微调后形成的目标域数据的图像向量特征作为LSTM的输入,生成与视频图像特征相关的描述语句,完成对视频内容的理解。
5.根据权利要求4所述的装置,其特征在于,所述的域间差距降低模块中,采用CNN模型作为所述GAN模型中生成器的编码器。
6.根据权利要求4所述的装置,其特征在于,采用ReLU作为所述编码器的激活函数。
7.一种计算设备,包括存储器、处理器和存储在所述存储器内并能由所述处理器运行的计算机程序,其中,所述处理器执行所述计算机程序时实现如权利要求1-3中任一项所述的方法。
8.一种计算机可读存储介质,优选为非易失性可读存储介质,其内存储有计算机程序,所述计算机程序在由处理器执行时实现如权利要求1-3中任一项所述的方法。
9.一种计算机程序产品,包括计算机可读代码,当所述计算机可读代码由计算机设备执行时,导致所述计算机设备执行权利要求1-3中任一项所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京影谱科技股份有限公司,未经北京影谱科技股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910913294.X/1.html,转载请声明来源钻瓜专利网。