[发明专利]一种基于概率图和ViT模型的图片分类方法在审
申请号: | 202211555848.1 | 申请日: | 2022-12-06 |
公开(公告)号: | CN115953617A | 公开(公告)日: | 2023-04-11 |
发明(设计)人: | 宫继兵;彭吉全;林宇庭;赵金烨;丛方鹏 | 申请(专利权)人: | 燕山大学 |
主分类号: | G06V10/764 | 分类号: | G06V10/764;G06V10/26;G06V10/80;G06V10/82;G06N7/01;G06N3/045;G06N3/048;G06N3/096 |
代理公司: | 石家庄众志华清知识产权事务所(特殊普通合伙) 13123 | 代理人: | 赵洪娥 |
地址: | 066004 河北*** | 国省代码: | 河北;13 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及一种基于概率图和ViT模型的图片分类方法,属于计算机视觉图片分类技术领域,将多头注意力机制从概率论的角度进行建模,将多头注意力中的attention value看作隐变量,利用概率图模型的Explaining‑away Effects以及Transformer的层级结构,将attention logits层层传递,并将相邻层的值进行融合,促进不同头部之间的交互。本发明针对普通Vision Transformer模型中多头注意力机制头部参数的冗余问题,将多头注意力机制建模为概率图模型,将注意力值看作隐变量,促进不同注意力头部之间的交互。 | ||
搜索关键词: | 一种 基于 概率 vit 模型 图片 分类 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于燕山大学,未经燕山大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202211555848.1/,转载请声明来源钻瓜专利网。
- 上一篇:一种高效均衡散热功率模块
- 下一篇:一种市政公路拉丝装置