[发明专利]一种神经网络及该神经网络的学习方法

说明书

技术领域

本发明涉及计算机技术领域，具体为一种神经网络及该神经网络的学习方法。

背景技术

人的思维主要可概括为逻辑和形象思维两种，以规则为基础的知识系统可被认为模拟人的逻辑思维。神经元网络则可被认为是探索人的形象思维的过程。神经元网络是生理学上的真实人脑神经网络的结构和功能，以及若干基本特性的某种理论现象，经过简化和模拟而构成的一种信息处理系统。

在神经元网络学习过程中，需要进行反复的练习，学习方法较为复杂，为此，我们提出了一种神经网络及该神经网络的学习方法投入使用，以解决上述问题。

发明内容

本发明的目的在于提供一种神经网络及该神经网络的学习方法，以解决上述背景技术中提出的在神经元网络学习过程中，需要进行反复的练习，学习方法较为复杂的问题。

为实现上述目的，本发明提供如下技术方案：一种神经网络，该神经网络由三层网络组成，包括输入层、隐含层和输出层，且各层之间实行全连接；

输入层，其中的神经元采用S型变换函数；

隐含层，神经网络中的隐含层有一个或多个隐层；

输出层，输出层中的神经元采用纯线性变换函数；

该神经网络的输入模式由输入层经隐含层向输出层的模式顺传播，网络的希望输出与网络实际输出之差的误差信号由输出层经隐含层向输入层逐层修正连接权的误差逆传播，并由模式顺传播与误差逆传播的反复交替进行网络记忆训练。

优选的，所述S型变换函数为：

f(x)＝1/(1+e^-x)

优选的，所述隐含层中具有R个输入的基本神经元模型，每个输入都通过一个适当的权值ω与神经元连接，神经元的输出表示为：

a＝f(ω*R,b)

优选的，一种神经网络的学习方法，该神经网络的学习方法包括以下步骤：

S1：输入信息从输入层经过隐含层逐层处理并计算出各神经单元间的实际输出值；

S2：在输出层不能得到希望的输出时，逐层计算实际输出与要求输出的误差值，以便根据此误差值调整权值；

S3：从后向前修正各层次之间的联系权重，在不断学习和小修正的过程中，使神经网络学习误差达到最小。

优选的，所述步骤S1中，在计算实际输出值时，设有N个神经元互连，每个神经元的活性状态a_i(i＝1，2,3…，N)，取0或1，表示抑制或兴奋，每个神经元的状态按下式所表示的规则受其他神经元的制约，

其中，θ_i为与值，W_ij为神经元i与j之间突触连接强度。

优选的，所述步骤S2中，在计算实际输出与要求输出的误差值时，通过感知器表示一个神经元的运算特性，其输入状态向量记为：

Xⁿ＝(X₁,X₂,…,X_n)

其中，每个输入分量X_i为i个神经元的状态，记

ωⁿ＝(ω₁,ω₂,…,ω_n)

为权向量，其中ω_i为第i个神经元与感知器的连接权系数。

与现有技术相比，本发明的有益效果是：本发明在完全确定了标准输入矢量及相应的标准输出矢量，可采用简单的神经网络实现联想记忆，网络单元间的连接是固定不变的，由矢量外积构成连接矩阵确定，可不必再进行反复的练习，且无需对输入矢量进行预处理，可直接进入搜索过程，省去编码和解码工作，采用并行处理方式，效果高。

附图说明

图1为本发明网络结构图；

图2为本发明感知器模型构造图；

图3为本发明监督学习框图；

图4为本发明非监督学习框图；

图5为本发明再励学习框图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

请参阅图1和2，本发明提供一种技术方案：一种神经网络，该神经网络由三层网络组成，包括输入层、隐含层和输出层，且各层之间实行全连接；

输入层，其中的神经元采用S型变换函数，所述S型变换函数为：