[发明专利]神经网络优化器搜索在审
| 申请号： | 201880034697.0 | 申请日： | 2018-04-30 |
| 公开（公告）号： | CN110663049A | 公开（公告）日： | 2020-01-07 |
| 发明（设计）人： | 伊万·贝洛;巴雷特·佐福;维贾伊·瓦苏德万;国·V·勒 | 申请（专利权）人： | 谷歌有限责任公司 |
| 主分类号： | G06N3/08 | 分类号： | G06N3/08;G06N3/04 |
| 代理公司： | 11219 中原信达知识产权代理有限责任公司 | 代理人： | 李佳;邓聪惠 |
| 地址： | 美国加利*** | 国省代码： | 美国;US |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 涉及方法、系统和设备，包括编码在计算机存储介质上的计算机程序，用于确定训练神经网络的更新规则。所述方法中的一种方法包括：使用控制器神经网络生成输出序列的批次，所述批次中的每个输出序列限定相应的更新规则；针对所述批次中的每个输出序列：使用所述输出序列限定的所述更新规则来训练子神经网络的相应实例；评估所述子神经网络的经训练的实例对所述特定神经网络任务的性能，以确定所述子神经网络的经训练的实例对所述特定神经网络任务的性能度量；以及使用所述子神经网络的经训练的实例的所述性能度量来调节所述控制器神经网络的所述控制器参数的所述当前值。 | ||
| 搜索关键词： | 神经网络 输出序列 更新规则 控制器神经网络 性能度量 计算机存储介质 训练神经网络 计算机程序 控制器参数 系统和设备 评估 | ||
【主权项】：
1.一种方法，包括：/n接收确定更新规则的请求，所述更新规则用于在训练第一神经网络执行特定神经网络任务期间更新所述第一神经网络的参数的值；以及/n确定所述更新规则，包括：/n使用具有多个控制器参数的控制器神经网络并且根据所述控制器参数的当前值，生成多个输出序列，每个生成的输出序列限定相应的候选更新规则；/n对于每个生成的输出序列：/n根据由所述生成的输出序列限定的所述候选更新规则，通过更新子神经网络的实例的参数的值，来训练所述子神经网络的相应实例执行所述特定神经网络任务，以及/n评估所述子神经网络的经训练的实例对所述特定神经网络任务的性能，以确定所述子神经网络的所述经训练的实例对所述特定神经网络任务的性能度量；以及/n使用所述子神经网络的所述经训练的实例的所述性能度量来调节所述控制器神经网络的所述控制器参数的所述当前值。/n
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于谷歌有限责任公司，未经谷歌有限责任公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201880034697.0/，转载请声明来源钻瓜专利网。
