[发明专利]基于交互式Transformer的图像-多语言字幕转换方法在审
申请号: | 202210418758.1 | 申请日: | 2022-04-20 |
公开(公告)号: | CN114707523A | 公开(公告)日: | 2022-07-05 |
发明(设计)人: | 胡珍珍;徐月圆;周愿恩;洪日昌;汪萌 | 申请(专利权)人: | 合肥工业大学 |
主分类号: | G06F40/58 | 分类号: | G06F40/58;G06F40/211;G06F40/242;G06F40/289;G06N3/04;G06N3/08;G06V20/62 |
代理公司: | 安徽省合肥新安专利代理有限责任公司 34101 | 代理人: | 陆丽莉;何梅生 |
地址: | 230009 安*** | 国省代码: | 安徽;34 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 交互式 transformer 图像 语言 字幕 转换 方法 | ||
本发明公开了一种基于交互式Transformer的图像‑多语言字幕转换方法,其步骤包括:1.构建图像‑多语言字幕数据集,2.获取图像的VinVL特征表示,3.获取文本的特征表示,4.采用图像特征与文本特征训练图像‑多语言字幕模型,5.利用训练好的图像‑多语言字幕模型,实现对图像的多种语言描述。本发明的文本信息涉及中英文两种语言,能够综合利用文本与视觉信息,实现图像到多语言字幕的转换,从而支持多种语言的高效转换。
技术领域
本发明属于人工智能领域,具体的说是一种基于交互式Transformer的图像-多语言字幕转换方法。
背景技术
近年来,图像-字幕转换技术在图像索引、智能教育以及(盲人)视觉辅助等方面有着广泛的应用。但是目前大多数图像-字幕转换工作都是针对单一语言的,尤其是英语,而忽略了世界上有大量的非英语母语人群。图像-字幕转换技术的好处也应该带给这些用户,因此图像-字幕转换技术需要支持多种语言。
目前一些工作通过为每一种语言设计一个独立的模型,然后组合多个模型达到支持多语言的目的,但是这种方法将导致整体参数随着支持语言数量的增加而线性增加,不利于实际部署和维护。Tsutsui等人2017年发表的《Using Artificial Tokens to ControlLanguages for Multilingual Image Caption Generation》开创性地提出使用了卷积神经网络作为编码器和循环神经网络作为解码器,通过变换人工标记训练模型,使得单一模型可以产生对图像的两种语言描述。但是,该模型中两种语言描述不能同时产生,并且循环神经网络作为骨干网络,模型不能并行训练,存在长期依赖问题。如何设计一个单一紧凑的模型使其能够同时生成对图像的多种语言描述仍是亟待解决的问题。
发明内容
本发明是为了解决上述现有技术存在的不足之处,提出一种基于交互式Transformer的图像-多语言字幕转换方法,以期能通过单一的模型同时生成对图像的多种语言描述,从而支持多种语言的高效转换。
本发明为达到上述发明目的,采用如下技术方案:
本发明一种基于交互式Transformer的图像-多语言字幕转换方法的特点是按如下步骤进行:
步骤1、构建图像-多语言字幕数据集D={I,Y,Z};其中,I表示图像集,Y表示由所述图像集I中每张图像所对应的若干个中文描述语句构成的中文字幕集合;Z表示由所述图像集I中每张图像所对应的若干个英文描述语句构成的英文字幕集合;
步骤2、获取图像的VinVL特征表示;
采用VinVL模型对图像集I中的图像i进行处理,得到图像i的VinVL特征表示xi;
步骤3、获取文本的特征表示;
步骤3.1、基于中文字幕集合Y和英文字幕集合Z构建包含M1个词汇量的中文字典以及M2个词汇量的英文字典;
步骤3.2、计算中文字幕集合Y中每个中文描述语句的文本特征表示,令图像i所对应的任意一个中文描述语句yi的中文文本特征表示记为其中,表示中文描述语句yi中的第k个中文词向量;K表示词向量总数;
计算英文描述语句集合Z中每个英文描述语句的文本特征表示,令图像i所对应的任意一个英文描述语句zi的英文文本特征表示记为其中,表示英文描述语句zi中的第k个英文词向量;
步骤4、构建图像-多语言字幕模型,包括:编码器、解码器和生成器;
步骤4.1、所述编码器由L1个相同的编码模块依次连接而成,每个编码模块均由多头自注意网络和全连接前馈网络组成,且每个编码模块后均连接有残差操作层和正则化操作层;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于合肥工业大学,未经合肥工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210418758.1/2.html,转载请声明来源钻瓜专利网。
- 基于Transformer+LSTM神经网络模型的商品销量预测方法及装置
- 一种基于Transformer模型自然场景文字识别方法
- 一种深度Transformer级联神经网络模型压缩算法
- 点云分割方法、系统、介质、计算机设备、终端及应用
- 基于Transformer的中文智能对话方法
- 一种基于改进Transformer模型的飞行器故障诊断方法和系统
- 一种基于Transformer模型的机器翻译模型优化方法
- 基于Transformer和增强交互型MPNN神经网络的小分子表示学习方法
- 基于U-Transformer多层次特征重构的异常检测方法及系统
- 基于EfficientDet和Transformer的航空图像中的飞机检测方法
- 彩色图像和单色图像的图像处理
- 图像编码/图像解码方法以及图像编码/图像解码装置
- 图像处理装置、图像形成装置、图像读取装置、图像处理方法
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像解密方法、图像加密方法、图像解密装置、图像加密装置、图像解密程序以及图像加密程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序以及图像解码程序
- 图像编码方法、图像解码方法、图像编码装置、图像解码装置、图像编码程序、以及图像解码程序
- 图像形成设备、图像形成系统和图像形成方法
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序
- 图像编码装置、图像编码方法、图像编码程序、图像解码装置、图像解码方法及图像解码程序