[发明专利]基于双曲正切函数的新型神经网络的构造方法

说明书

技术领域

本发明涉及神经网络模型，特别涉及一种适用于智能家电的新型神经网络的构造方法。

背景技术

神经网络是计算机视觉和模式识别一个重要的研究领域，神经网络是由简单处理单元以 联立的方式相互组合构成的具有一定规模的并行分布式处理器，具有存储先前经验和自主学 习的能力，在人工智能，模式识别，机器学习和人机交互等领域存在广泛的应用，也是前沿 科学最重要的研究领域。图像检索及文字识别都属于这一类别，而文字的检测与识别系统则 是进行信息检索的基本条件，检测与识别技术是计算机视觉和人机交互领域重要组成部分。

卷积神经网络是最近广泛应用于模式识别和计算机视觉等领域的一种算法模型，具有多 层感知器本身特有的结构性布局特点，在考虑多层感知器设计和算法实现方面，卷积神经网 络构造的基础设计方面存在很多不同的结构设计，本专利重点在特征映射的执行使用优化的 激活函数，良好的激活函数的选择是神经网络设计的一个重要组成部分。一般来说，激活函 数应该是对称的，通常有加权，求和与转移三种功能，不同的网络特性主要区别在于采用了 不同的激活函数，也正是因为这样，而使神经元具有了各不相同的信息处理机制和特性。在 卷积神经网络当前训练样本集合也存在先验知识约束其设计，所以针对卷积神经网络神经元 处理数据的方法做改进以增强神经网络的计算适应性和运算特性，有针对性的对处理数据或 样本集合做特定的优化和改进。

发明内容

本发明的目的是为了增强神经网络的计算适应性和运算特性，提供一种基于网络神经元 所选用的非线性双曲正切函数的新型神经网络的构造方法，其特征在于，包括如下步骤：

构建完全对称的双曲正切函数，并确定双曲正切函数的取值区域；

将所构建的双曲正切函数作为激活函数创建基于使用学习算法的多层感知机模型，所述 双曲正切函数用于提取数据的特征，将可能的无限域变换到有限范围内；

根据多层感知机模型构建卷积神经网络模型。

优选地，所述双曲正切函数的取值区域为-0.8至0.8。

具体地，在将所构建的双曲正切函数作为激活函数创建基于使用学习算法的多层感知机 模型时，在一个网络节点计算的过程中，输入向量从第一个隐含层开始，以输出层计算该层 的每一个神经元的误差信号结束，误差信号经过网络一层一层的传播，并且递归计算每个神 经元的局部梯度。

具体地，所述局部梯度等于这个神经元的误差信号乘以它的非线性一次导数。

具体地，神经元的非线性一次导数的计算过程如下：

获得神经元的输出表达式

x=F(y)=tanh(y)=sinh(y)cosh(y)]]>

其中，y是函数的输入(对应于一个神经元的激活值)，X是神经元的输出；

对上式进行求导计算，即