[发明专利]神经网络模型的量化方法和装置在审
申请号: | 202010143782.X | 申请日: | 2020-03-04 |
公开(公告)号: | CN113361677A | 公开(公告)日: | 2021-09-07 |
发明(设计)人: | 希滕;张刚;温圣召 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 北京英赛嘉华知识产权代理有限责任公司 11204 | 代理人: | 王达佐;马晓亚 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本公开涉及人工智能领域。本公开的实施例公开了神经网络模型的量化方法和装置。该方法包括:获取神经网络模型的参数的初始位宽以及目标量化位宽;构建量化位宽序列,通过执行多次拟量化操作更新量化位宽序列;按照更新后的量化位宽序列对神经网络模型进行逐级量化;拟量化操作包括:获取起点位宽对应的第一量化后模型、采用中间位宽对待量化模型进行量化得到的第二量化后模型;响应于确定第一量化后模型的参数分布与第二量化后模型的参数分布之间的差异在预设的分布差异区间内,将中间位宽插入量化位宽序列中,将中间位宽更新为新的起点位宽,将第二量化后模型更新为新的待量化模型,执行下一次拟量化操作。该方法可以减少模型的量化损失。 | ||
搜索关键词: | 神经网络 模型 量化 方法 装置 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202010143782.X/,转载请声明来源钻瓜专利网。
- 上一篇:目标对象的测试方法及装置
- 下一篇:资源调度方法、装置、设备及存储介质