[发明专利]基于交互式Transformer的图像-多语言字幕转换方法在审

专利信息
申请号: 202210418758.1 申请日: 2022-04-20
公开(公告)号: CN114707523A 公开(公告)日: 2022-07-05
发明(设计)人: 胡珍珍;徐月圆;周愿恩;洪日昌;汪萌 申请(专利权)人: 合肥工业大学
主分类号: G06F40/58 分类号: G06F40/58;G06F40/211;G06F40/242;G06F40/289;G06N3/04;G06N3/08;G06V20/62
代理公司: 安徽省合肥新安专利代理有限责任公司 34101 代理人: 陆丽莉;何梅生
地址: 230009 安*** 国省代码: 安徽;34
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 基于 交互式 transformer 图像 语言 字幕 转换 方法
【说明书】:

发明公开了一种基于交互式Transformer的图像‑多语言字幕转换方法,其步骤包括:1.构建图像‑多语言字幕数据集,2.获取图像的VinVL特征表示,3.获取文本的特征表示,4.采用图像特征与文本特征训练图像‑多语言字幕模型,5.利用训练好的图像‑多语言字幕模型,实现对图像的多种语言描述。本发明的文本信息涉及中英文两种语言,能够综合利用文本与视觉信息,实现图像到多语言字幕的转换,从而支持多种语言的高效转换。

技术领域

本发明属于人工智能领域,具体的说是一种基于交互式Transformer的图像-多语言字幕转换方法。

背景技术

近年来,图像-字幕转换技术在图像索引、智能教育以及(盲人)视觉辅助等方面有着广泛的应用。但是目前大多数图像-字幕转换工作都是针对单一语言的,尤其是英语,而忽略了世界上有大量的非英语母语人群。图像-字幕转换技术的好处也应该带给这些用户,因此图像-字幕转换技术需要支持多种语言。

目前一些工作通过为每一种语言设计一个独立的模型,然后组合多个模型达到支持多语言的目的,但是这种方法将导致整体参数随着支持语言数量的增加而线性增加,不利于实际部署和维护。Tsutsui等人2017年发表的《Using Artificial Tokens to ControlLanguages for Multilingual Image Caption Generation》开创性地提出使用了卷积神经网络作为编码器和循环神经网络作为解码器,通过变换人工标记训练模型,使得单一模型可以产生对图像的两种语言描述。但是,该模型中两种语言描述不能同时产生,并且循环神经网络作为骨干网络,模型不能并行训练,存在长期依赖问题。如何设计一个单一紧凑的模型使其能够同时生成对图像的多种语言描述仍是亟待解决的问题。

发明内容

本发明是为了解决上述现有技术存在的不足之处,提出一种基于交互式Transformer的图像-多语言字幕转换方法,以期能通过单一的模型同时生成对图像的多种语言描述,从而支持多种语言的高效转换。

本发明为达到上述发明目的,采用如下技术方案:

本发明一种基于交互式Transformer的图像-多语言字幕转换方法的特点是按如下步骤进行:

步骤1、构建图像-多语言字幕数据集D={I,Y,Z};其中,I表示图像集,Y表示由所述图像集I中每张图像所对应的若干个中文描述语句构成的中文字幕集合;Z表示由所述图像集I中每张图像所对应的若干个英文描述语句构成的英文字幕集合;

步骤2、获取图像的VinVL特征表示;

采用VinVL模型对图像集I中的图像i进行处理,得到图像i的VinVL特征表示xi

步骤3、获取文本的特征表示;

步骤3.1、基于中文字幕集合Y和英文字幕集合Z构建包含M1个词汇量的中文字典以及M2个词汇量的英文字典;

步骤3.2、计算中文字幕集合Y中每个中文描述语句的文本特征表示,令图像i所对应的任意一个中文描述语句yi的中文文本特征表示记为其中,表示中文描述语句yi中的第k个中文词向量;K表示词向量总数;

计算英文描述语句集合Z中每个英文描述语句的文本特征表示,令图像i所对应的任意一个英文描述语句zi的英文文本特征表示记为其中,表示英文描述语句zi中的第k个英文词向量;

步骤4、构建图像-多语言字幕模型,包括:编码器、解码器和生成器;

步骤4.1、所述编码器由L1个相同的编码模块依次连接而成,每个编码模块均由多头自注意网络和全连接前馈网络组成,且每个编码模块后均连接有残差操作层和正则化操作层;

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于合肥工业大学,未经合肥工业大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202210418758.1/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top