[发明专利]一种卷积神经网络全INT8定点量化的方法有效
| 申请号： | 201911159756.X | 申请日： | 2019-11-22 |
| 公开（公告）号： | CN111260022B | 公开（公告）日： | 2023-09-05 |
| 发明（设计）人： | 郭晓伟;杜鑫;丁永林;毛泉涌;张永晋;李炜;周明政;怀宇;王铜铜 | 申请（专利权）人： | 中国电子科技集团公司第五十二研究所 |
| 主分类号： | G06N3/0464 | 分类号： | G06N3/0464;G06N3/082 |
| 代理公司： | 杭州君度专利代理事务所(特殊普通合伙) 33240 | 代理人： | 杨天娇 |
| 地址： | 310012*** | 国省代码： | 浙江;33 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种卷积神经网络全INT8定点量化的方法，包括：选取卷积神经网络模型，去除卷积神经网络模型中的上采样操作，保留多尺度特征输出，并训练得到浮点型网络模型；利用KL散度为所述浮点型网络模型中的每一个卷积层生成对应的权值量化阈值和激活值量化阈值；调整各卷积层对应的权值量化阈值，确定调整后的权值量化阈值；根据量化公式逐一量化各卷积层的权值，得到量化后的权值文件；基于权值文件，对所述浮点型网络模型中的residual结构增加阈值补偿操作，进行全INT8前向计算，获取较低精度损失的计算结果。本发明的方法得到的卷积神经网络模型中的所有运算均为定点运算，且量化后的模型精度损失小。 | ||
| 搜索关键词： | 一种 卷积 神经网络 int8 定点 量化 方法 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于中国电子科技集团公司第五十二研究所，未经中国电子科技集团公司第五十二研究所许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201911159756.X/，转载请声明来源钻瓜专利网。
