[发明专利]一种基于多域异质图引导的视觉问题常识推理模型及方法有效
| 申请号： | 201910772828.1 | 申请日： | 2019-08-21 |
| 公开（公告）号： | CN110598573B | 公开（公告）日： | 2022-11-25 |
| 发明（设计）人： | 王青;周静文;余伟江;梁小丹;林倞;肖侬 | 申请（专利权）人： | 中山大学 |
| 主分类号： | G06V20/40 | 分类号： | G06V20/40;G06V10/764;G06V10/82;G06V10/70;G06N3/04;G06N3/08;G06N5/04 |
| 代理公司： | 广州容大知识产权代理事务所(普通合伙) 44326 | 代理人： | 刘新年 |
| 地址： | 510275 广东省*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种基于多域异质图引导的视觉问题常识推理模型及方法，所述模型包括：预训练模型初始化单元，利用预训练模型对基础骨架网络和分类器参数进行初始化；视觉信息提取单元，用于利用检测器来提取输入图像的视觉信息的初始特征；上下文投票单元，用于提取全局视觉信息中未被标注的视觉隐含信息结合到视觉信息的局部特征之中；语言特征提取单元，用于利用自然语言预训练模型提取语言部分问题和答案的特征表示；多域特征推理融合单元，用于构造多域异质图，将视觉信息特征和语言信息特征利用多域异质图进行多域特征推理融合获得最终特征表示；分类单元，用于利用分类器对获得的特征处理后进行打分，选取得分高的选项为答案。 | ||
| 搜索关键词： | 一种 基于 多域异质图 引导 视觉 问题 常识 推理 模型 方法 | ||
【主权项】：
1.一种基于多域异质图引导的视觉问题常识推理模型，包括：/n预训练模型初始化单元，利用预训练模型对基础骨架网络和分类器参数进行初始化；/n视觉信息提取单元，用于利用检测器来提取输入图像的视觉信息的初始特征；/n上下文投票单元，用于提取全局视觉信息中未被标注的视觉隐含信息结合到视觉信息的局部特征之中；/n语言特征提取单元，用于利用自然语言预训练模型提取语言部分问题和答案的特征表示；/n多域特征推理融合单元，用于构造多域异质图，将视觉信息特征和语言信息特征利用多域异质图进行多域特征推理融合获得最终特征表示；/n分类单元，用于利用分类器对获得的特征处理后进行打分，选取得分高的选项为答案。/n
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于中山大学，未经中山大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201910772828.1/，转载请声明来源钻瓜专利网。
- 上一篇：一种基于图像识别的手部关键尺寸测量系统
- 下一篇：智能人脸监控识别方法及系统
