[发明专利]神经网络优化方法及终端设备在审
申请号: | 202010250379.7 | 申请日: | 2020-04-01 |
公开(公告)号: | CN111461327A | 公开(公告)日: | 2020-07-28 |
发明(设计)人: | 黄伟建;张剑 | 申请(专利权)人: | 河北工程大学 |
主分类号: | G06N3/08 | 分类号: | G06N3/08;G06N3/04;G06N3/00 |
代理公司: | 河北国维致远知识产权代理有限公司 13137 | 代理人: | 谢茵 |
地址: | 056038 河北*** | 国省代码: | 河北;13 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 优化 方法 终端设备 | ||
本发明适用于人工智能技术领域,提供了一种神经网络优化方法及终端设备,上述方法包括:构建神经网络模型;采用粒子群算法确定神经网络模型的最佳权值和最佳阈值;将最佳权值和最佳阈值作为初始值对神经网络模型进行初始化,得到优化后的神经网络模型。本发明通过粒子群算法对神经网络模型的权值和阈值进行优化,得到最优的权值和阈值。对采用最优权值和阈值的神经网络模型训练可以达到全局最优,不易陷入局部极小点的问题,收敛速度快,预测精度高,神经网络模型的性能得到了极大的提升。
技术领域
本发明属于人工智能技术领域,尤其涉及一种神经网络优化方法及终端设备。
背景技术
Elman神经网络是一种典型的动态递归神经网络,它是在BP(back propagation,反向传播)网络基本结构的基础上,在隐含层增加一个承接层,作为一步延时算子,达到记忆的目的,从而使系统具有适应时变特性的能力,增强了网络的全局稳定性,它比前馈型神经网络具有更强的计算能力,还可以用来解决快速寻优问题。
但Elman神经网络基于梯度下降法,容易出现训练速度慢、陷入局部极小点的问题,进而使得神经网络的训练无法达到全局最优,限制了神经网络的预测精度及收敛速度,影响神经网络的整体性能。
发明内容
有鉴于此,本发明实施例提供了一种神经网络优化方法及终端设备,以解决现有技术中神经网络的训练无法达到全局最优,限制了神经网络的预测精度及收敛速度,影响神经网络的整体性能的问题。
本发明实施例的第一方面提供了一种神经网络优化方法,包括:
构建神经网络模型;
采用粒子群算法确定神经网络模型的最佳权值和最佳阈值;
将最佳权值和最佳阈值作为初始值对神经网络模型进行初始化,得到优化后的神经网络模型。
本发明实施例的第二方面提供了一种神经网络优化装置,包括:
模型构建模块,用于构建神经网络模型;
最优值确定模块,用于采用粒子群算法确定神经网络模型的最佳权值和最佳阈值;
模型优化模块,用于将最佳权值和最佳阈值作为初始值对神经网络模型进行初始化,得到优化后的神经网络模型。
本发明实施例的第三方面提供了一种终端设备,包括存储器、处理器以及存储在存储器中并可在处理器上运行的计算机程序,处理器执行计算机程序时实现如本发明实施例第一方面提供的神经网络优化方法的步骤。
本发明实施例的第四方面提供了一种计算机可读存储介质,计算机可读存储介质存储有计算机程序,计算机程序被处理器执行时实现如本发明实施例第一方面提供的神经网络优化方法的步骤。
本发明实施例提供了一种神经网络优化方法,包括:构建神经网络模型;采用粒子群算法确定神经网络模型的最佳权值和最佳阈值;将最佳权值和最佳阈值作为初始值对神经网络模型进行初始化,得到优化后的神经网络模型。本发明实施例通过粒子群算法对神经网络模型的权值和阈值进行优化,得到最优的权值和阈值。对采用最优权值和阈值的神经网络模型训练可以达到全局最优,不易陷入局部极小点的问题,收敛速度快,预测精度高,性能得到了极大的提升。
附图说明
为了更清楚地说明本发明实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的一种神经网络优化方法的实现流程示意图;
图2是本发明实施例提供的一种神经网络优化装置的示意图;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于河北工程大学,未经河北工程大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010250379.7/2.html,转载请声明来源钻瓜专利网。