[发明专利]一种基于混洗蛙跳算法的卷积神经网络框架自动设计方法在审
申请号: | 202110993267.5 | 申请日: | 2021-08-27 |
公开(公告)号: | CN113971367A | 公开(公告)日: | 2022-01-25 |
发明(设计)人: | 张涛;曹亚慧;赵鑫 | 申请(专利权)人: | 天津大学 |
主分类号: | G06F30/27 | 分类号: | G06F30/27;G06N3/00;G06N3/04;G06N3/08;G06F111/04 |
代理公司: | 暂无信息 | 代理人: | 暂无信息 |
地址: | 300072*** | 国省代码: | 天津;12 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 蛙跳 算法 卷积 神经网络 框架 自动 设计 方法 | ||
1.一种基于混洗蛙跳算法的卷积神经网络框架自动设计方法,其特征在于,包括如下步骤:
1)将卷积神经网络框架自动设计方法建模为一个有约束的组合优化问题,约束为模型的参数量;
2)设计一种离散变长编码方式用来表示卷积神经网络框架,得到卷积神经网络框架的数学表示;
3)采用混洗蛙跳算法对卷积神经网络框架进行设计,以在MNIST数据集上的图像分类精度为适应度评估值,以不断提高分类精度为优化目标,通过混洗蛙跳算法不断迭代优化,得到性能最优的卷积神经网络框架;
4)将最优的卷积神经网络框架再次充分训练。
2.根据权利要求1所述的一种基于混洗蛙跳算法的卷积神经网络框架自动设计方法,其特征在于,步骤1)包括:
(1)将卷积神经网络框架自动设计方法建模为一个在模型参数量约束下的组合优化问题。
3.根据权利要求1所述的一种基于混洗蛙跳算法的卷积神经网络框架自动设计方法,其特征在于,步骤2)包括:
(1)定义一个block,里面包括m层卷积层和一层最大池化层,池化层连接在卷积层后面构成一个block;
(2)将block进行叠加,即将多个block堆叠连接,block的个数为nb;
(3)定义全连接层的层数为nf,每个全连接层中神经元的个数为η,将nf个全连接层连接起来;
(4)最后将堆叠的block和全连接层再次连接起来,构成一个卷积神经网络框架。
4.根据权利要求1所述的一种基于混洗蛙跳算法的卷积神经网络框架自动设计方法,其特征在于,步骤3)包括:
(1)设定混洗蛙跳算法的初始参数,包括:青蛙种群的数量N,青蛙分组组数,算法最大迭代次数,并定义迭代次数iter=0,还有编码方式中block的参数范围,每个block中卷积层的输出范围,全连接层的层数范围,每层的神经元个数范围以及模型的参数量约束范围;
(2)青蛙种群初始参数进行种群初始化,按照离散变长编码方式进行编码,生成一个青蛙个体后,先判断该个体对应的卷积神经网络的模型参数量是否满足约束范围,如果满足,则该个体有效,否则重新生成新个体,直至生成N个满足模型参数量约束范围的个体,构成青蛙种群;
(3)对生成的种群进行适应度评估;
(a)将经典的MNIST数据集分为训练集和测试集,设定训练集的图片为α张,测试集的图片为β张,为了减少训练时间,在进行适应度评估时,只随机选择全部数据集的θ%来进行训练和测试,即α×θ%张训练图片和β×θ%张测试图片;
(b)设定种群个体n=0,将此个体按照编码方式反向解码,得到对应的卷积神经网络框架;
(c)利用训练图片训练解码得到的卷积神经网络框架,然后在测试图片上测试,得到测试精度作为适应度评估值;
(d)种群个体n加一。若种群个体个数小于种群的全部个体数量,则转到步骤(b),否则,输出种群全部个体的适应度值;
(4)按照种群的适应度值对整个青蛙种群进行降序排序,按照模因分组法对种群进行分组,确定每组中的组内最优个体、组内最差个体和整个种群中的全局最优个体;
(5)更新个体,先利用每组中的组内最优个体的信息更新组内最差个体,若更新后的组内最差个体的适应度值优于之前的组内最差个体的适应度值,则完成一个更新过程;否则,利用全局最优个体的信息更新组内最差个体,若更新后的组内最差个体的适应度值优于之前的个体,则完成一个更新过程;若依然无法更新成功,则采用随机更新的方式更新该组内的最差个体;
(6)迭代次数iter加一;
(7)混洗全部个体。若迭代次数小于算法最大迭代次数,则转到步骤(4),否则,输出全局最优个体,得到最优的卷积神经网络框架;
(8)设定充分训练过程所需迭代次数为iiter,采用MNIST数据集中全部的数据图片,即α张训练图片和β张测试图片;将最优卷积神经网络框架在训练数据上训练,在测试数据上测试,得到最后的精度作为实际的应用精度。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于天津大学,未经天津大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110993267.5/1.html,转载请声明来源钻瓜专利网。