[发明专利]用于神经网络量化的方法和设备在审
| 申请号： | 201710684586.1 | 申请日： | 2017-08-11 |
| 公开（公告）号： | CN107967515A | 公开（公告）日： | 2018-04-27 |
| 发明（设计）人： | 崔柳真;李正元;穆斯塔法·艾尔可哈米 | 申请（专利权）人： | 三星电子株式会社 |
| 主分类号： | G06N3/08 | 分类号： | G06N3/08;G06K9/62 |
| 代理公司： | 北京铭硕知识产权代理有限公司11286 | 代理人： | 曾世骁,张云珠 |
| 地址： | 韩国京畿*** | 国省代码： | 暂无信息 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 一种用于神经网络量化的方法和设备。描述了用于在深度神经网络中执行网络参数量化的设备和方法、系统和制造该设备的方法。一方面，确定神经网络的网络参数的损失函数的二阶偏导矩阵的对角线，然后使用所述对角线对网络参数进行加权，作为对网络参数进行量化操作的一部分，其中，二阶偏导矩阵是海赛矩阵。另一方面，使用网络参数的梯度的一阶矩估计和二阶矩估计对神经网络进行训练，然后使用所述二阶矩估计对所述网络参数进行加权，作为对所述网络参数进行量化操作的一部分。另一方面，通过使用熵约束的标量量化(ECSQ)迭代算法执行网络参数量化。另一方面，通过一次性地对深度神经网络的所有层的网络参数一起量化来执行网络参数量化。 | ||
| 搜索关键词： | 用于 神经网络 量化 方法 设备 | ||
【主权项】：
一种用于神经网络量化的方法，包括：确定神经网络的网络参数的损失函数的二阶偏导矩阵的对角线，其中，所述二阶偏导矩阵是海赛矩阵；使用确定的对角线对所述网络参数进行加权，作为对所述网络参数进行量化操作的一部分，其中，所述加权是海塞加权。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于三星电子株式会社，未经三星电子株式会社许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201710684586.1/，转载请声明来源钻瓜专利网。
