[发明专利]多模态预训练模型的训练方法、应用方法及装置在审
| 申请号： | 202110262221.6 | 申请日： | 2021-03-10 |
| 公开（公告）号： | CN112990297A | 公开（公告）日： | 2021-06-18 |
| 发明（设计）人： | 霍宇琦;张曼黎;刘光镇;卢志武;窦志成;金琴;赵鑫;宋睿华;文继荣 | 申请（专利权）人： | 北京智源人工智能研究院;中国人民大学 |
| 主分类号： | G06K9/62 | 分类号： | G06K9/62;G06N3/04;G06N3/08;G06F16/583;G06F16/33 |
| 代理公司： | 北京辰权知识产权代理有限公司 11619 | 代理人： | 尹倩倩 |
| 地址： | 100083 北京市海淀区*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本申请提出一种多模态预训练模型的训练方法、应用方法及装置，该方法包括：构建双塔结构的多模态预训练模型；获取包括正样本图文对的正样本数据集和包括负样本图文对的负样本数据集；根据正样本数据集和负样本数据集训练多模态预训练模型，多模态预训练模型包括用于对正样本图文对和负样本图文对进行图文相似度对比学习的跨模态对比学习模块。本申请中多模态预训练模型采用双塔结构和跨模态对比学习算法，对图像和文本模态都构建大量负样本，模型表达能力强，提高了图文对的处理精度。该模型计算图文间的整体相似度，根据相似度判断图文是否对应，基于图文弱相关假设，更贴合实际应用中图文对中图文间语义弱相关的实际情况。 | ||
| 搜索关键词： | 多模态预 训练 模型 方法 应用 装置 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京智源人工智能研究院;中国人民大学，未经北京智源人工智能研究院;中国人民大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202110262221.6/，转载请声明来源钻瓜专利网。
