[发明专利]一种基于可微量化训练的视觉Transformer压缩方法及系统在审
| 申请号： | 202210295189.6 | 申请日： | 2022-03-24 |
| 公开（公告）号： | CN114756517A | 公开（公告）日： | 2022-07-15 |
| 发明（设计）人： | 李哲鑫;张一帆;王培松;程健 | 申请（专利权）人： | 中科南京人工智能创新研究院;中国科学院自动化研究所 |
| 主分类号： | G06F16/174 | 分类号： | G06F16/174;G06F17/16;G06K9/62;G06N3/04;G06T7/11;G06V10/774 |
| 代理公司： | 南京泰普专利代理事务所(普通合伙) 32360 | 代理人： | 张磊 |
| 地址： | 211135 江苏省南京市创*** | 国省代码： | 江苏;32 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种基于可微量化训练的视觉Transformer压缩方法及系统，属于人工智能的技术领域。包括以下步骤：步骤一、将输入图片进行分块处理，并通过线性映射转换成对应的图片序列；步骤二、将图片序列依次经过M次全局信息与局部信息的量化交替式处理，得到压缩后的图片序列；步骤三、将压缩后的图片序列进行分类处理，输出预测的概率值。在执行步骤一至步骤三时引入了可微量化步长训练方法，基于可微量化步长训练方法提高每次可微量化步长与图像数据的匹配度；同时，步骤二在执行局部信息量化时引入了可微量化偏置训练方法，基于可微量化偏置训练方法自动学习得到最优的量化区间，保留负激活区域的信息。降低了因量化导致的性能损失，提高了量化精度。 | ||
| 搜索关键词： | 一种 基于 微量 训练 视觉 transformer 压缩 方法 系统 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于中科南京人工智能创新研究院;中国科学院自动化研究所，未经中科南京人工智能创新研究院;中国科学院自动化研究所许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202210295189.6/，转载请声明来源钻瓜专利网。
