[发明专利]神经网络优化方法在审
申请号: | 201410843528.5 | 申请日: | 2015-08-04 |
公开(公告)号: | CN104504442A | 公开(公告)日: | 2015-07-29 |
发明(设计)人: | 杨玉林;谢松均;柏智 | 申请(专利权)人: | 湖南强智科技发展有限公司 |
主分类号: | G06N3/02 | 分类号: | G06N3/02 |
代理公司: | 广州华进联合专利商标代理有限公司 44224 | 代理人: | 秦雪梅;谢伟 |
地址: | 410205 湖南省长沙市高新*** | 国省代码: | 湖南;43 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 神经网络 优化 方法 | ||
技术领域
本发明涉及人工神经网络,特别涉及一种神经网络优化方法。
背景技术
近年来,人工神经网络(ANN)提供了一种新的方法来模拟复杂而又难以定义的问题,ANN已经在智能控制、机器人、模式识别、计算机视觉、生产过程优化和信息处理等多种领域中取得了广泛应用。研究结果表明,如果ANN的网络结构太大,将导致归纳性较差,反之,太小的网络结构则会造成学习能力偏低。而网络中的权值和阈值直接可影响神经网络的训练和识别的性能。因此,如何优化ANN网络结构是关键,以便尽量提高人工神经网络的性能。
传统的ANN网络结构优化方法有很多种,主要利用主成分分析法确定输入层节点数,可使问题得到一定的解决,但是当样本数据很大时,样本集本身没有包含全部样本的特征,将导致预测的结果出现较大的误差。
发明内容
基于此,有必要针对神经网络预测结果误差大的问题,提出一种能减小误差的神经网络优化方法。
一种神经网络优化方法,包括以下步骤:
对神经网络的权值及隐含层输出参数值编码形成遗传算法个体;
随机产生包含多个所述个体的初始种群;
计算所述种群中每个所述个体的适应度;
判断是否满足停止条件;
若判断不满足,则执行以下步骤:
对所述个体进行选择;
对选择后的所述个体进行随机交叉;
对交叉后的所述个体进行变异;
产生新个体组成的新种群;
统计迭代的次数,并返回继续执行所述计算所述种群中每个所述个体的适应度的步骤;
若判断满足停止条件,则执行以下步骤:
选择所述适应度最大的所述个体;
对所述个体进行解码,得到神经网络的权值及隐含层更输出参数;
根据所述权值及所述隐含层输出参数值,构建神经网络。
上述神经网络优化方法,通过遗传算法确定最优的神经网络权重以及隐含层输出参数,根据隐含层输出参数值得出隐含层层数,神经网络再通过该权重与隐含层层数进行初始化,由于该权重与隐含层层数是较优的,利用神经网络进行预测的过程中,输出结果误差会大大减小,整个神经网络的性能很大程度上得到提高。
附图说明
图1为一种实施方式的神经网络优化方法的流程图;
图2为另一种实施方式的神经网络优化方法的中对个体进行选择的流程图。
具体实施方式
为了使本发明的目的、技术方案和优点更加清楚明了,以下根据附图及实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不限定本发明。
遗传算法是一种启发式搜索算法,所要解决的问题是模拟成一个生物进化的过程,通过复制、交叉以及突变等操作产生下一代的个体,并逐步淘汰适应度较低的个体,增加适应度高的个体,适应度高的个体遗产到下一代的机会大,这样可能会进化出适应度很高的个体。通过遗传算法与神经网络的结合,可以将神经网络的权值及隐含层层数编码后看做是一个个体,对权值及隐含层层数的确定过程就是寻找近似最优个体的过程,最终得到适应度高的个体时,表示权值及隐含层层数是较优的。
请参阅图1,一种神经网络优化方法,包括以下步骤:
S100:对神经网络的权值及隐含层输出参数值编码形成遗传算法个体。
在创建神经网络时,需要根据神经网络中各层之间神经元之间连接的权值以及隐含层层数初始化神经网络,且权值和隐含层层数的选择对后续神经网络的预测输出起到至关重要的作用,所以通过遗传算法对神经网络的权值及隐含层输出参数值进行选择,得到较优的神经网络权值及隐含层层数来构建神经网络。在寻找最优解的过程中,需要将个体编码成字符串的形式才能使用遗传算法,常用的编码为二进制编码,即将问题的解编码成二进制数组的形式。通过对神经网络的权值及隐含层输出参数值编码成个体,通过遗传算法对最优个体的选择,即是对神经网络的权值及隐含层输出参数值的最优选择。
S200:随机产生包含多个个体的初始种群。
种群中包含一定数量的个体,这些个体是随机产生的。遗传算法是通过对种群中的个体进行最优选择,得到最优的个体。
S300:计算种群中每个个体的适应度。
遗传算法中以个体的适应度大小来评定各个个体的优劣程度,从而决定其遗传机会的大小。
S400:判断是否满足停止条件。
若判断不满足,则执行以下步骤:
S410:对个体进行选择。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于湖南强智科技发展有限公司,未经湖南强智科技发展有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201410843528.5/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种在线数据分析服务中参考值的实现方法
- 下一篇:电子标示牌及其生产工艺