[发明专利]基于自适应动态移位的8位整型全量化推理方法及装置在审
| 申请号： | 202010859153.7 | 申请日： | 2020-08-24 |
| 公开（公告）号： | CN111950715A | 公开（公告）日： | 2020-11-17 |
| 发明（设计）人： | 谢远东 | 申请（专利权）人： | 云知声智能科技股份有限公司;厦门云知芯智能科技有限公司 |
| 主分类号： | G06N3/04 | 分类号： | G06N3/04;G06N3/063;G06N3/08 |
| 代理公司： | 暂无信息 | 代理人： | 暂无信息 |
| 地址： | 100096 北京市海*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明提供了一种基于自适应动态移位的8位整型全量化推理方法及装置，该方法包括：获取训练后的浮点模型；获取所述浮点模型中的每个通道的权重；通过KLD计算所述浮点模型中每一层的激活值；基于所述激活值，针对所述浮点模型的跳层和卷积通道打乱操作，确定转换因子，并预存所有定点化值和移位值；根据量化表获取浮点模型的定点的权重scale，并基于该权重，输出整型结果。本发明实施例提供的方法，按通道全定点量化大大减少了浮点转换到定点的误差，在推理过程中不涉及浮点操作，全定点移位操作，可以验证模型全量化后结果误差是否符合人工智能芯片需求，且自适应动态移位，避免固定移位带来的溢出误差，中间值由int32优化成int8进一步减少片上内存。 | ||
| 搜索关键词： | 基于 自适应 动态 移位 整型 量化 推理 方法 装置 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于云知声智能科技股份有限公司;厦门云知芯智能科技有限公司，未经云知声智能科技股份有限公司;厦门云知芯智能科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202010859153.7/，转载请声明来源钻瓜专利网。
- 上一篇：转运装置及上料系统
- 下一篇：一种基于加密芯片生产制造的点胶封装机构
