[发明专利]基于先验知识的可拓神经网络模式识别方法

说明书

技术领域

本发明涉及神经网络模式识别领域，尤其涉及一种结合先验知识和训练样本共同驱动下的可拓神经网络模式识别方法。

背景技术

可拓神经网络（Extension Neural Network，ENN）是可拓理论和神经网络技术有机结合的产物。可拓神经网络是继模糊神经网络、遗传神经网络、进化神经网络之后的又一种新的网络类型，它的出现和发展不仅能拓展可拓理论自身的进一步的应用，也必将推动神经网络技术和智能计算的进一步发展。目前，M.H.Wang提出的一种双权连接的可拓神经网络《Extension neural network and its applications》（Neural Networks,2003,第16卷第5期）是应用最广泛的可拓神经网络模型，它在解决特征向量特征值处于区间范围内的分类、识别、聚类等问题上效果显著。相比于传统神经网络，可拓神经网络泛化能力强、可塑性好、训练时间短、能够更快地适应新的信息，而且在实际操作过程中，具有一定的规律可循，因此，基于双权的可拓神经网络分类器在模式识别、检测、故障诊断等方面有了一定的应用。

衡量神经网络分类识别性能最重要的指标是泛化能力。影响泛化能力最重要的因素之一是训练样本，高质量的训练样本可以带来高质量的网络性能。然而，高质量训练样本的获取并不是一件容易的工作，原因在于虽然观测数据（样本数据）和未见数据来源于同一分布，但通常观测数据数量有限，不能很好地刻画原始数据分布；另外，样本数据虽然有时数量足够，但是存在大量信息量不大的数据，或者存在大量信息量相似的冗余数据；同时，在样本数据产生过程中，尤其在恶劣环境下所获得的训练样本，很可能会存在各种噪声。因此，在面临训练样本质量差的情况下，可拓神经网络的性能急剧下降，故而，我们需要解决在面临差样本的环境下，如何提高可拓神经网络的性能这一现实问题。

在实际应用过程中，一方面有时很难获取高质量的样本数据，但另一方面，虽然有些系统非常复杂，无法了解其内部的所有结构，但通常可以对某些过程机理有一定了解，知道这些过程的一些先验知识信息，因此，希望能充分利用这些信息，建立观测数据与未见数据的联系，结合经验建模的方法进行模型的建立。加入先验知识可能是机器学习在有限数据下实现推广能力（泛化能力）的唯一手段。许多研究表明，利用先验知识在神经网络训练前对他们施加一定的约束，有利于提高网络的性能。因此，必须结合具体学习问题的先验知识，才能学习出适合特定学习问题的“最优”分类器。

发明内容

本发明的目的是提供一种基于先验知识的可拓神经网络模式识别方法，能够有效提高可拓神经网络的性能；即使面临训练样本质量差，应用于复杂系统环境中，基于先验知识的可拓神经网络依然具有优秀的分类识别性能。

本发明采用下述技术方案：

一种基于先验知识的可拓神经网络模式识别方法，包括以下步骤：（1）、准备训练样本集和知识库，训练样本集是已经获取的观测数据，假设训练样本集为其中N_p是样本集的样本总个数，第i个样本表示为其中n是样本特征向量包含的特征总个数，第i个样本类别标签是p；知识库是存储关于面对具体对象而已经知道的信息；针对可拓神经网络权值所体现的知识特点，选择对象特征向量各个特征值的经典域极值，即L_kj表示第k种模式关于第j个特征属性的定量范围；

（2）、根据训练样本和先验知识，确定可拓神经网络的初始权值；

（3）、利用训练样本对可拓神经网络进行训练；如果训练过程收敛或总误差率到达预设值，则停止训练，保存训练后的可拓神经网络的权值向量；否则继续训练；

（4）、利用训练好的可拓神经网络进行模式识别，直至所有识别对象全部识别完毕。

所述的步骤（2）具体如下：首先确定可拓神经网络的输入层的神经元个数n和输出层的神经元个数n_c，输入层的神经元个数n等于特征训练特征值的个数，输出层的神经元个数n_c等于模式状态的个数；输入层和输出层之间采用双权连接的方式，其中一个权值代表某一特征经典域的下限值，另外一个权值代表着相应特征经典域的上限值，连接输入层第j个节点和输出层第k个节点的两个权值分别用和表示，则可拓神经网络的初始权值可按照公式（2）～（3）获得：

所述步骤（3）具体包括以下步骤：

其中每一种模式的初始中心点如下所述：