[发明专利]一种离线量化工具的精度提升方法有效
| 申请号： | 202010137113.1 | 申请日： | 2020-03-02 |
| 公开（公告）号： | CN111368978B | 公开（公告）日： | 2023-03-24 |
| 发明（设计）人： | 唐琦;黄明飞;王海涛 | 申请（专利权）人： | 开放智能机器（上海）有限公司 |
| 主分类号： | G06N3/0464 | 分类号： | G06N3/0464 |
| 代理公司： | 上海申新律师事务所 31272 | 代理人： | 吴轶淳 |
| 地址： | 200233 上海市徐汇区*** | 国省代码： | 上海;31 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明涉及深度学习领域，尤其涉及一种离线量化工具的精度提升方法。精度提升方法包括：步骤S1，处理单元对每个量化转换因子进行线性处理；步骤S2，处理单元得到所有卷积层输出的第一处理数据；步骤S3，处理单元获得卷积层输出的第二处理数据；步骤S4，根据第一处理数据和第二处理数据确定本次更新相关的量化参数，并将采用被确定的量化参数更新对应的量化转换因子；步骤S5，判断量化转换因子集中是否存在尚未被更新的量化转换因子：若是，则返回步骤S3；若否，则将更新后的量化转换因子集作为精度提升结果输出，随后结束。上述技术方案有益效果在于：进一步提高网络模型的处理精度，加快处理速度，降低经济成本。 | ||
| 搜索关键词： | 一种 离线 量化 工具 精度 提升 方法 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于开放智能机器（上海）有限公司，未经开放智能机器（上海）有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202010137113.1/，转载请声明来源钻瓜专利网。
