[发明专利]一种基于CNN的低精度训练与8位整型量化推理方法在审
| 申请号： | 201910154088.5 | 申请日： | 2019-03-01 |
| 公开（公告）号： | CN109902745A | 公开（公告）日： | 2019-06-18 |
| 发明（设计）人： | 严敏佳;王永松;刘丹 | 申请（专利权）人： | 成都康乔电子有限责任公司;电子科技大学 |
| 主分类号： | G06K9/62 | 分类号： | G06K9/62;G06K9/00;G06N3/08;G06N3/04;G06N5/04 |
| 代理公司： | 暂无信息 | 代理人： | 暂无信息 |
| 地址： | 610000 四川省成都市*** | 国省代码： | 四川;51 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明创造提供一种基于CNN的低精度训练与8位整型量化推理方法，主要步骤为：低精度模型训练；用16位浮点型的低精度定点算法进行模型训练，得到用于目标检测的模型；量化权重；提出8位整型量化方案，按层将卷积神经网络的权重参数从16位浮点型量化为8位整型；8位整型量化推理；把激活值量化为8位整型数据，即CNN的每一层都接受int8类型量化输入并生成int8量化输出。本发明用16位浮点型低精度定点算法训练模型得到权重，再量化为8位的整型数据进行前向推理，相比于32位浮点型算法训练模型得到的权重直接进行8位整型量化推理，优化卷积层的推理过程，有效降低了低位定点量化推理带来的精度损失。 | ||
| 搜索关键词： | 量化 推理 整型 浮点 权重 定点算法 整型数据 卷积神经网络 精度模型 精度损失 模型训练 目标检测 权重参数 算法训练 推理过程 训练模型 低位 卷积 前向 激活 输出 优化 | ||
【主权项】：
1.一种基于CNN的低精度训练与8位整型量化推理方法，其特征在于，包括如下步骤：低精度模型训练；用16位浮点型的低精度定点算法进行模型训练，得到用于目标检测的模型；量化权重；提出8位整型量化方案，按层将卷积神经网络的权重参数从16位浮点型量化为8位整型；8位整型量化推理；把激活值量化为8位整型数据，即CNN的每一层都接受int8类型量化输入并生成int8量化输出。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于成都康乔电子有限责任公司;电子科技大学，未经成都康乔电子有限责任公司;电子科技大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201910154088.5/，转载请声明来源钻瓜专利网。
