[发明专利]一种基于压缩神经网络的二阶段量化实现方法及装置在审
| 申请号： | 202210458582.2 | 申请日： | 2022-04-24 |
| 公开（公告）号： | CN114781615A | 公开（公告）日： | 2022-07-22 |
| 发明（设计）人： | 杨文鑫;支小莉;童维勤 | 申请（专利权）人： | 上海大学 |
| 主分类号： | G06N3/04 | 分类号： | G06N3/04;G06N3/08 |
| 代理公司： | 上海上大专利事务所(普通合伙) 31205 | 代理人： | 何文欣 |
| 地址： | 200444*** | 国省代码： | 上海;31 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明涉及一种基于压缩神经网络的二阶段量化实现方法及装置。该方法包括以下步骤：(1)根据神经网络的目标任务，使用CPU或GPU将神经网络模型训练至收敛。(2)根据目标任务所需的神经网络的压缩率，设置神经网络每层的目标稀疏度，逐阶段地对权值进行剪枝。(3)根据目标任务预设的量化位宽，二阶段地量化神经网络每层的权值，量化的第一阶段是聚类，使用聚类算法聚类神经网络每层的权值；第二阶段是放缩，根据目标任务预设的量化位宽，将得到的聚类中心放缩到定点数，最终结果以三元组的形式存储每层的权值矩阵。本发明能够减少模型所需的计算成本和存储成本，提升模型的推理速度，并且可以有效地弥补传统线性量化在低位宽下的精度损失。 | ||
| 搜索关键词： | 一种 基于 压缩 神经网络 阶段 量化 实现 方法 装置 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于上海大学，未经上海大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202210458582.2/，转载请声明来源钻瓜专利网。
