[发明专利]基于改进进化算法的循环神经网络架构搜索方法、系统及介质在审

专利信息
申请号: 201911410812.2 申请日: 2019-12-31
公开(公告)号: CN111144555A 公开(公告)日: 2020-05-12
发明(设计)人: 王蕾;田烁;胡凯;李石明;曲连华;张洪广;王树泉;龚锐;石伟;徐炜遐 申请(专利权)人: 中国人民解放军国防科技大学
主分类号: G06N3/04 分类号: G06N3/04;G06N3/08
代理公司: 湖南兆弘专利事务所(普通合伙) 43008 代理人: 谭武艺
地址: 410073 湖南*** 国省代码: 湖南;43
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 基于 改进 进化 算法 循环 神经网络 架构 搜索 方法 系统 介质
【权利要求书】:

1.一种基于改进进化算法的循环神经网络架构搜索方法,其特征在于实施步骤包括:

1)训练多个循环神经网络子模型来更新共享权重ω;

2)初始化产生种群,通过共享权重ω评估种群中各个循环神经网络子模型的性能并添加到用于记录所有循环神经网络模型性能的历史记录表history

3)从种群中随机采样产生样本,选取样本最优模型进行变异操作,以指定概率ε移除种群中最老或最差模型,将变异后的子节点加入种群和历史记录表history;判断是否满足预设的结束条件,如果不满足则跳转执行步骤3);否则跳转执行下一步;

4)输出历史记录表history中的最优模型。

2.根据权利要求1所述的基于改进进化算法的循环神经网络架构搜索方法,其特征在于,步骤2)的详细步骤包括:

2.1)产生种群population并初始化为空队列,并初始化用于记录循环神经网络模型性能的历史记录表history为空;

2.2)判断种群population的数量小于预设阈值P是否成立,如果成立则跳转执行步骤2.3);否则,跳转执行步骤3);

2.3)随机产生循环神经网络模型架构生成子模型model

2.4)在预设的验证集上通过共享权重ω评估子模型model的性能;

2.5)将子模型model加入种群;

2.6)将子模型model的性能记录在历史记录表history中,跳转执行步骤2.2)。

3.根据权利要求1所述的基于改进进化算法的循环神经网络架构搜索方法,其特征在于,步骤3)的详细步骤包括:

3.1)判断历史记录表history中的记录数量小于预设阈值C是否成立,如果成立则跳转执行步骤3.2);否则,跳转执行步骤4);

3.2)初始化建立空的样本sample;

3.3)从种群随机采样产生样本并放入样本sample中;

3.4)从样本sample中取困惑度最低的最优模型作为父亲节点;

3.5)按照突变规则更改父亲节点;

3.6)使用共享权重ω在预设的验证集上对突变后的子节点测试性能;

3.7)判断生成的概率值random (0,1)小于指定概率ε是否成立,如果成立则移除种群中困惑度最高的最差模型,否则移除种群中最左边的最老模型;

3.7)将突变后的子节点加入种群,使用历史记录表history记录变异后的子节点性能;跳转执行步骤3.1)。

4.一种基于改进进化算法的循环神经网络架构搜索系统,其特征在于包括:

共享权重训练程序单元,用于训练多个循环神经网络子模型来更新共享权重ω;

种群初始化程序单元,用于初始化产生种群,通过共享权重ω评估种群中各个循环神经网络子模型的性能并添加到用于记录所有循环神经网络模型性能的历史记录表history

变异进化程序单元,用于从种群中随机采样产生样本,选取样本最优模型进行变异操作,以指定概率ε移除种群中最老或最差模型,将变异后的子节点加入种群和历史记录表history;判断是否满足预设的结束条件,如果不满足则跳转执行变异进化程序单元;否则跳转执行输出程序单元;

输出程序单元,用于返回历史记录表history中的最优模型。

5.一种基于改进进化算法的循环神经网络架构搜索系统,包括计算机设备,其特征在于,该计算机设备被编程或配置以执行权利要求1~3中任意一项所述基于改进进化算法的循环神经网络架构搜索方法的步骤。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国人民解放军国防科技大学,未经中国人民解放军国防科技大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201911410812.2/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top