[发明专利]BP神经网络结构优化方法

说明书

技术领域

本发明涉及智能计算领域，尤其涉及对三层BP人工神经网络隐含层单元数确定方法的优化设计。

背景技术

随着科学技术的飞速发展，人工神经网络也迅速发展，它是智能领域中的一个重要组成部分，BP神经网络是人工智能网络中的一个典型算法，是目前研究最为成熟的神经网络结构之一，因其具有超强的自学习、自组织、自适应、联想记忆及容错能力，在信号处理、模式识别、机器控制、专家系统等、故障诊断、预测等领域中有广泛地应用。而且它本身具有很强的非线性映射能力，解决一些非线性问题更是它最突出的特点，有一个隐含层的BP网络可以逼近任何一个闭区间内的连续函数。因此三层BP神经网络是应用最为广泛的神经网络模型。

然而，BP神经网络在应用时仍存在一个难以突破的问题：难以快速精确地确定最优的隐含层单元数。目前BP神经网络单隐含层单元数确定方法主要有经验公式法和试凑法，但通过经验公式法确定的隐含层单元数并不一定是最佳的单元数，而通过试凑法确定没有一定的范围，导致训练过程繁琐又费时。

发明内容

为了解决三层BP神经网络隐含层单元数确定方法没有确定的理论依据，导致盲目设计BP神经网络结构，耗费大量的时间和精力确定隐含层单元数的问题。为此，本发明旨在提供一种能够快速且精确确定最佳隐含层单元数的优化方法。

由此，本发明提供了一种BP神经网络结构优化方法，包括如下步骤：（a）首先确定输入层神经元数目（N_in）和输出神经元数（N_out）；（b）利用所述输入层神经元数目和所述输出神经元数确定所述神经网络的隐含层单元数（N_hid）的取值范围；及（c）获得所述取值范围中各值的最小均方误差（Mse），并以所述最小均方误差所对应的所述隐含层单元数（N_hid）为最佳隐含层单元数（N_hid）。

一些实施例中，以经验公式为基础确定的隐含层单元数的取值范围n₁≤N_hid≤n₂，n₁为隐含层单元数最小取值，n₂为隐含层单元数最大取值。

一些实施例中，所述经验公式为N_hid＝log₂N_in，N_hid≤p/[R+(N_in+N_out)]，和N_hid≤2N_in+1，其中_p是训练样本集的总体数目，5≤R≤10。

一些实施例中，首先确定一个三层BP神经网络模型，然后通过训练所构建的网络模型得到所述网络模型的所述均方误差（Mse）。

一些实施例中，所述步骤（c）包括如下步骤：（c1）根据所述取值范围中的最小取值（n₁）确定所述隐含层单元数为，以确定一个三层BP神经网络模型，并且通过训练所构建的网络模型得到相应的第一均方误差（Mse₁）；（c2）令所述隐含层单元数为N_hid＝n₁+1，按照步骤（c2）得到相应的第二均方误差（Mse₂）；及（c3）比较第一均方误差（Mse₁）和所述第二均方误差（Mse₂）的大小，若第一均方误差（Mse₁）小于所述第二均方误差（Mse₂），则令所述隐含层单元数（N_hid）为与所述第一均方误差（Mse₁）对应的所述最小值（n₁），若所述第二均方误差（Mse₂）小于所述第一均方误差（Mse₁），则令所述隐含层单元数（N_hid）为与所述第二均方误差（Mse₂）对应的所述最小值（n₁+1）。