[发明专利]用于训练DNN的缩放学习在审
| 申请号： | 201980084632.1 | 申请日： | 2019-12-10 |
| 公开（公告）号： | CN113196304A | 公开（公告）日： | 2021-07-30 |
| 发明（设计）人： | B·劳哈尼·达维什;E·S·钟;D·洛;D·C·伯格 | 申请（专利权）人： | 微软技术许可有限责任公司 |
| 主分类号： | G06N3/04 | 分类号： | G06N3/04;G06N3/08;G06N3/063 |
| 代理公司： | 北京市金杜律师事务所 11256 | 代理人： | 马明月 |
| 地址： | 美国华*** | 国省代码： | 暂无信息 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 公开了用于调节神经网络的超参数以补偿噪声(诸如经由神经网络的一个或多个参数的量化而引入的噪声)的方法和装置。在一些示例中，调节可以包括基于表示神经网络中存在的噪声的至少一个度量来缩放超参数。至少一个度量可以包括针对神经网络的权重(诸如边权重和激活权重)的噪声信号比。在量化神经网络中，用于在反向传播期间计算针对层的梯度更新的学习率超参数可以基于至少一个度量被缩放。在一些示例中，当计算针对其他层的梯度更新时，可以使用相同的已缩放学习率。 | ||
| 搜索关键词： | 用于 训练 dnn 缩放 学习 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于微软技术许可有限责任公司，未经微软技术许可有限责任公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201980084632.1/，转载请声明来源钻瓜专利网。
- 上一篇：用于拉开和扭转的装置和方法
- 下一篇：用于改善沉积的毛发调理组合物
