[发明专利]一种基于优化深度卷积神经网络结构快速进化的图像分类器构建方法

摘要

一种优化深度卷积神经网络结构的快速进化方法，包括以下步骤：1)使用基于GNP的进化算法有效构建非线性的CNN网络结构，并对CNN结构的各种超参数进行变异以寻找最优的CNN超参数组合；2)在进化过程中，设计了一种多目标的网络结构评价方法，将分类准确率和分类器的复杂程度同时作为优化目标，目的是有效生成具有高分类准确率和简单结构的CNN分类器；3)提出了增量式训练方法，在上一代CNN结构的基础上进行子代CNN结构的训练。本发明能减少模型的训练次数，降低算法的时间复杂度。

主权项

1.一种优化深度卷积神经网络结构的快速进化方法，其特征在于：所述进化方法包括以下步骤：1)基于GNP的CNN优化方法使用GNP作为进化过程的基础算法，进化过程包含以下操作：种群初始化、优秀个体选择、交叉操作和变异操作，过程如下：1.1)在种群的初始化中，用一个网络结构来表示一个进化种群，一个网络结构表示为Phenotype和Genotype两种形式，在Phenotype中，一个个不同形状的图形表示不同的CNN模块，不同的路径代表不同的初始化染色体，在初始化过程中，所有染色体的结构均是随机生成，Genotype展示了对每条染色体的具体编码方式，对所述CNN模块中的超参数进行编码；1.2)种群的初始化完成后，对得到的CNN结构使用训练数据进行训练，并测试这些分类器的分类效果，选取性能较好的分类器进行交叉和变异；以GNP算法为基础，设计了相应的交叉和变异策略用来更新染色体的结构和超参数；过程如下：1.2.1)交叉是通过交换两条染色体的部分结构来得到新染色体的操作，要进行交叉操作，首先需要选择两条染色体作为交叉的对象；采用竞标赛选择法实现对染色体对象的选取，通过竞标赛选择法，将选取两条染色体作为交叉过程中的父代染色体，选取完毕后，在两个染色体中分别随机选取交叉点，在原有的种群网络结构图中，通过修改两个父代染色体在交叉点的连接路径，即可实现染色体的交叉操作；1.2.2)变异是通过变异染色体的超参数和网络结构来实现对新染色体的构建的，首先也需要通过竞标赛选择法选取父代染色体，父代染色体选取完成后，为当前染色体设计了两种变异策略：结构变异和超参数变异，结构变异用于改变CNN分类器的深度，进化出能有效提取图像特征的CNN结构；超参数的变异用于寻找每个模块的最优参数组合；1.3)在进化过程中，通过设置种群的交叉概率和变异概率来控制每一代进化过程中产生的子代数量，在任意一代的进化过程中，首先对通过交叉变异而得到的子代CNN结构进行训练，使其成为一个个图像分类器，再将这些子代分类器和父代分类器合并，根据每个分类器的结构复杂度和测试准确率设定一种多目标评价方法，选择性能较好的分类器进入下一轮的CNN结构进化；2)多目标的网络评价及其优化方法将分类器的分类准确率和结构复杂度作为优化目标，使用多目标优化方法对一个分类器进行评价，使进化计算能最终产生符合实际应用的最优CNN分类器。