[发明专利]一种基于改进ASO算法的BP神经网络参数优化方法

说明书

本发明提供一种基于改进ASO算法的BP神经网络参数优化方法，涉及神经网络技术领域。该方法首先对数据集进行预处理及BP神经网络的参数初始化，然后利用预处理后的数据集对BP神经网络进行初始网络训练得到网络权值和阈值，并对网络权值和阈值进行实值编码形成初始个体，得到初始原子种群；并将BP神经网络的训练误差作为个体适应度值，得到适应度函数；再采用改进ASO算法更新原子种群并采用适应度函数计算更新后原子种群中个体适应度值；最后更新BP神经网络的权值和阈值并利用更新后的BP神经网络对数据集进行分类。该方法将改进ASO算法应用于BP神经网络参数优化，在对BP神经网络参数优化时表现出更高的分类性能。

技术领域

本发明涉及神经网络技术领域，尤其涉及一种基于改进ASO算法的BP神经网络参数优化方法。

背景技术

几乎所有的机器学习算法最后都归结为求一个目标函数的极值，即最优化问题。最优化要指在一定条件限制下，选取某种研究方案使目标达到最优的一种方法。

元启发式算法是指研究者受仿生学启发，从自然界中的随机现象获取灵感，将随机算法与局部算法相结合来求解复杂优化问题的一类算法。此类算法相对于启发式算法的最大改进在于引入了随机因素的影响，从而使算法存在一定概率跳出局部最优，更有可能得到问题全局最优解，同时由于其对目标函数、初始值等无任何特殊要求，因此成为了最优化问题研究的热点问题之一。根据算法启发机制不同，元启发式算法可归结于两类：模仿生物学过程的算法和基于物理学原理的算法。其中模仿生物学过程的算法又可分为两类：基于生物进化的演化算法和基于动物社会性行为的群智能算法。基于生物进化的演化算法主要以遗传算法(GA)为代表，同时还有进化策略(ES)、文化基因算法(MA)等；基于动物社会性行为的群智能算法是近年来元启发式算法研究的热点，有模拟鸟群捕食的粒子群算法(PSO)、基于乌鸦智能行为的乌鸦搜索算法(CSA)、模拟樽海鞘聚集行为的樽海鞘群算法(SSA)、模拟蝴蝶觅食和求偶行为的蝴蝶优化算法(BOA)、模拟飞蛾飞行行为的飞蛾扑火优化算法(MFO)等；基于物理学原理的算法有模仿固体退火的模拟退火算法(SA)、模仿万有引力原理的引力搜索算法(GSA)、模仿多元宇宙理论中黑洞、白洞及虫洞概念的多元宇宙优化算法(MVO)等。

原子搜索优化算法(Atom Search Optimization，即ASO)是Zhao W等人受分子动力学启发提出的一种以物理学为灵感的基于原子运动的新型智能元启发式优化算法。该算法模仿由相互作用和约束力控制的原子运动，通过Lennard-Jones(L-J)势产生的相互作用力和原子共价键产生的约束力共同作用于原子，使不同质量的原子具有不同的速度和加速度，从而不断地更新原子所在位置，直到原子处于最优位置时，算法迭代完成。由于其启发机制简单、参数少、探索(exploration)和挖掘(exploitation)性强等特点已被应用于地下水中的弥散系数估计、水文地质参数估计、自动聚类、PEM燃料电池模型参数估计等多个领域。

原子优化算法(ASO)寻优精度弱且易陷入局部最优的问题，但通常我们希望得到的是全局最优解。一般的启发式算法非常容易产生局部最优，或者说根本无法查证产生的最优解是否是全局的。这是因为对于大型系统或复杂的问题，一般的算法都着眼于从局部展开求解，以减少计算量和算法复杂度。提高ASO算法的收敛速度、求解精度及跳出局部最优能力，仍是利用该算法解决最优化问题的主要研究方向。

发明内容

本发明要解决的技术问题是针对上述现有技术的不足，提供一种基于改进ASO算法的BP神经网络参数优化方法，实现对BP神经网络参数的优化。

为解决上述技术问题，本发明所采取的技术方案是：一种基于改进ASO算法的BP神经网络参数优化方法，通过改进ASO算法(ImprovedASO，即IASO)优化BP神经网络初始权值和阈值，并将BP神经网络的训练误差作为个体的适应度值，最后选择最优初始权值和阈值构建BP神经网络分类模型，具体包括以下步骤：

步骤1、对数据集进行预处理及BP神经网络的参数初始化；