[发明专利]纸样规格参数推理模型的神经网络的训练学习方法和系统

说明书

技术领域

本发明属于神经网络学习领域，尤其涉及一种纸样规格参数推理模型的神经网络的训练学习方法和系统。

背景技术

人工神经网络(Artificial Neural Network，即ANN)，是20世纪80年代以来人工智能领域兴起的研究热点[32]。信息处理角度对人脑神经元网络进行抽象，建立某种简单模型，按不同的连接方式组成不同的网络[33]。BP(Back-Propagation)神经网络模型是人工神经网络模型领域运用最广的一种，也是人工神经网络领域的精髓。因为BP神经网络的中间层一般为一层或者多层，所以整个网络层为三层或者三层以上。

神经网络在投入使用之前或投入使用之后需要进行训练学习以满足神经网络根据输入值输出较准确的输出值，但是现有技术的神经网络训练学习方法不够灵活导致存在误差较大，以及训练速率不合适导致网络训练效果不佳等问题。

为了解决上述技术问题，人们进行了长期的探索，例如中国专利公开了一种基于深层神经网络的声学模型训练方法、主机和系统[申请号：CN201310704701.9]，其方法包括：主控主机将原始深层神经网络的各副本深层神经网络下发给至少一个运算主机，以指示运算主机基于训练数据对副本深层神经网络进行训练；主控主机定时查询各所述运算主机的状态，若查询到处于训练停止状态的运算主机，获取停止状态运算主机上副本深层神经网络的加权参数的变化量；主控主机根据所述停止状态运算主机上副本深层神经网络的加权参数的变化量，更新主控主机上原始深层神经网络的加权参数；主控主机利用更新后的原始深层神经网络的加权参数绝对值更新所述停止状态运算主机上副本深层神经网络的加权参数绝对值。

上述方案通过利用至少一个运算主机对副本深层神经网络进行训练，使得能够利用多台主机异步、并行的进行深层神经网络训练，大幅提高了深层神经网络训练的效率，但是仍然存在需要改进的地方，例如，训练方法仍然不够灵活、训练速率仍然不合适等。

发明内容

本发明的目的是针对上述问题，提供一种提高学习效果的纸样规格参数推理模型的神经网络的训练学习方法；

本发明的另一目的是针对上述技术问题，提供一种基于纸样规格参数推理模型的神经网络的训练学习方法的用于纸样规格参数推理模型的神经网络训练学习的神经网络训练系统。

为达到上述目的，本发明采用了下列技术方案：

本发明的纸样规格参数推理模型的神经网络的训练学习方法，包括以下步骤：

S1：在输入层导入包括网络输入向量和网络目标向量的多组学习样本后将输出层连接权、中间层连接权、中间层输出阈值和输出层输出阈值进行初始化设置；

S2：随机选取一组学习样本，并基于选取的学习样本、中间层连接权和中间层输出阈值通过中间层算法计算中间层各单元的输入和中间层各单元输出；

S3：基于输出层连接权、输出层输出阈值和步骤S2中得到的中间层各单元的输出通过输出层算法计算输出层各单元的输出和输出层各单元的响应；

S4：根据网络目标向量和网络输出层各单元的响应计算输出层各单元的输出层一般化误差，并基于输出层连接权、输出层一般化误差和中间层的输出通过中间层一般化误差算法计算中间层各单元的中间层一般化误差；

S5：根据输出层一般化误差和中间层的输出通过输出层连接权修正算法修正输出层连接权，通过输出层输出阈值修正算法修正输出层输出阈值；根据中间层一般化误差和网络输入向量通过中间层连接权修正算法修正中间层连接权，通过中间层输出阈值修正算法修正中间层输出阈值；

S6：随机选取下一组学习样本并返回步骤S2，直至选取至最后一组学习样本和/或网络全局误差一般化误差小于一个设定阈值。

在上述的纸样规格参数推理模型的神经网络的训练学习方法中，在步骤S2之前，还包括以下步骤：

神经网络自行设定和选取和/或接收用户设置的包括输入层节点、输出层节点、中间层层数、中间层节点、激活函数、初始权值和学习速率中的任意一种或多种组合的训练参数。

在上述的纸样规格参数推理模型的神经网络的训练学习方法中，所述的输入层节点为人体多个部位尺寸的向量，所述的输出层节点为成衣多个部位尺寸的向量，所述的中间层层数设定为一层、二层或三层，所述的中间层节点通过试值的方式和/或通过经验式进行选取，所述的激活函数包括中间层激活函数和输出层激活函数，且中间层激活函数选取Sigmoid函数，输出层激活函数选取Purelin线性函数，初始权值由Matlab随机产生，学习速率选取0.01-0.8。