[发明专利]一种卷积神经网络量化方法及装置、计算机可读存储介质在审
| 申请号： | 202010323877.X | 申请日： | 2020-04-22 |
| 公开（公告）号： | CN111626402A | 公开（公告）日： | 2020-09-04 |
| 发明（设计）人： | 高蕾;秦步月;窦勇;姜晶菲;苏华友;李荣春;许金伟 | 申请（专利权）人： | 中国人民解放军国防科技大学 |
| 主分类号： | G06N3/04 | 分类号： | G06N3/04;G06N3/063;G06N5/04 |
| 代理公司： | 北京辰权知识产权代理有限公司 11619 | 代理人： | 付婧 |
| 地址： | 410073 湖*** | 国省代码： | 湖南;43 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种卷积神经网络量化方法及装置、计算机可读存储介质。该方法包括：在利用卷积神经网络进行推理过程中，获取当前数据集中的所有图像在卷积神经网络各层中的特征值数据；根据特征值数据中的所有特征值所处的数值范围设置定点整数位数，根据定点整数位数确定定点小数位数；测试当前的至少一种定点格式的精度；判断是否存在至少一种定点格式的精度满足设定的精度：如果是，则直接进行量化；如果否，则进行分层量化。装置包括特征获取模块、定点设置模块、精度测试模块、精度比较模块、整体量化模块及分层量化模块。本发明不仅能够保证卷积神经网络输出结果的精度，而且还能够有效地降低量化位宽，降低存储空间和带宽。 | ||
| 搜索关键词： | 一种 卷积 神经网络 量化 方法 装置 计算机 可读 存储 介质 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于中国人民解放军国防科技大学，未经中国人民解放军国防科技大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202010323877.X/，转载请声明来源钻瓜专利网。
