[发明专利]存储介质、量化方法和量化装置在审
申请号: | 202111283733.7 | 申请日: | 2021-11-01 |
公开(公告)号: | CN114580608A | 公开(公告)日: | 2022-06-03 |
发明(设计)人: | 坂井靖文 | 申请(专利权)人: | 富士通株式会社 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/063;G06N3/08 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 陈炜;杨丽琴 |
地址: | 日本神*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 存储 介质 量化 方法 装置 | ||
1.一种存储量化程序的非暂态计算机可读存储介质,所述量化程序使至少一个计算机执行处理,所述处理包括:
针对神经网络的所有层,计算分别在信赖域半径阈值与第一位宽的量化误差之间的差,所述第一位宽比第二位宽窄一级;
基于所述差来计算所有层的每个缩放系数;
通过使用所述缩放系数中的最小值来更新信赖域半径;以及
通过基于信赖域设置的第三位宽来量化所述神经网络的参数。
2.根据权利要求1所述的非暂态计算机可读存储介质,其中,所述处理还包括:
通过将所述信赖域半径乘以所述缩放系数中的最小值来更新所述信赖域半径。
3.根据权利要求2所述的非暂态计算机可读存储介质,其中,所述处理还包括:
通过将所述信赖域半径乘以下述值中的较大值来更新所述信赖域半径:所述缩放系数中的最小值和用于更新所述信赖域半径的常数。
4.一种用于使计算机执行处理的量化方法,所述处理包括:
针对神经网络的所有层,计算分别在信赖域半径阈值与第一位宽的量化误差之间的差,所述第一位宽比第二位宽窄一级;
基于所述差来计算所有层的每个缩放系数;
通过使用所述缩放系数中的最小值来更新信赖域半径;以及
通过基于信赖域设置的第三位宽来量化所述神经网络的参数。
5.根据权利要求4所述的量化方法,其中,所述处理还包括:
通过将所述信赖域半径乘以所述缩放系数中的最小值来更新所述信赖域半径。
6.根据权利要求5所述的量化方法,其中,所述处理还包括:
通过将所述信赖域半径乘以下述值中的较大值来更新所述信赖域半径:所述缩放系数中的最小值和用于更新所述信赖域半径的常数。
7.一种量化装置,包括:
一个或更多个存储器;以及
耦接至所述一个或更多个存储器的一个或更多个处理器,并且所述一个或更多个处理器被配置成:
针对神经网络的所有层,计算分别在信赖域半径阈值与第一位宽的量化误差之间的差,所述第一位宽比第二位宽窄一级;
基于所述差来计算所有层的每个缩放系数;
通过使用所述缩放系数中的最小值来更新信赖域半径;以及
通过基于信赖域设置的第三位宽来量化所述神经网络的参数。
8.根据权利要求7所述的量化装置,其中,所述一个或更多个处理器还被配置成:
通过将所述信赖域半径乘以所述缩放系数中的最小值来更新所述信赖域半径。
9.根据权利要求8所述的量化装置,其中,所述一个或更多个处理器还被配置成:
通过将所述信赖域半径乘以下述值中的较大值来更新所述信赖域半径:所述缩放系数中的最小值和用于更新所述信赖域半径的常数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于富士通株式会社,未经富士通株式会社许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111283733.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:双锥天线组件
- 下一篇:气体分析装置以及气体分析装置的状态检测方法