[发明专利]用于优化神经网络架构搜索的方法和装置在审
申请号: | 201911024465.X | 申请日: | 2019-10-25 |
公开(公告)号: | CN110782016A | 公开(公告)日: | 2020-02-11 |
发明(设计)人: | 希滕;张刚;温圣召 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06N3/04 | 分类号: | G06N3/04;G06N3/08 |
代理公司: | 11204 北京英赛嘉华知识产权代理有限责任公司 | 代理人: | 王达佐;马晓亚 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本公开的实施例公开了用于优化神经网络架构搜索的方法和装置。该方法的一具体实施方式包括:基于预定的优化器集合和学习率衰减方案集合生成搜索空间;基于搜索空间生成优化方案序列;基于优化方案序列执行训练步骤:基于优化方案序列训练待搜索的神经网络得到奖励;根据奖励更新优化方案序列;若训练次数达到预定上限或奖励不再增加达到预设的轮次,则结束训练并输出优化方案序列对应的优化器和学习率衰减方案;否则,基于调整后的优化方案序列继续执行上述训练步骤。该实施方式能够使得模型快速收敛,同时可以得到较优的模型精度。 | ||
搜索关键词: | 方案序列 优化 搜索空间 训练步骤 优化器 衰减 奖励 搜索 优化神经网络 方法和装置 方案集合 继续执行 快速收敛 神经网络 输出优化 预定上限 预设 集合 架构 学习 更新 | ||
【主权项】:
1.一种用于优化神经网络架构搜索的方法,包括:/n基于预定的优化器集合和学习率衰减方案集合生成搜索空间;/n基于所述搜索空间生成优化方案序列;/n基于所述优化方案序列执行训练步骤:基于所述优化方案序列训练待搜索的神经网络得到奖励;若满足预设结束条件,则结束训练并输出所述优化方案序列对应的优化器和学习率衰减方案;/n否则,根据所述奖励更新所述优化方案序列,基于调整后的优化方案序列继续执行上述训练步骤。/n
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201911024465.X/,转载请声明来源钻瓜专利网。