[发明专利]一种基于优化深度卷积神经网络结构快速进化的图像分类器构建方法

权利要求书

1.一种基于优化深度卷积神经网络结构快速进化的图像分类器构建方法，其特征在于：

CIFAR-10数据集收集10个不同种类的60000张彩色图片，CIFAR-10中的图片大小是固定的且每一张图片中仅包含一个种类的实体，图像的像素为32×32，形成图像训练数据，对CIFAR-10的CNN分类器进行有效进化；

所述进化方法包括以下步骤：

1)基于GNP的CNN优化方法

使用GNP作为进化过程的基础算法，进化过程包含以下操作：种群初始化、优秀个体选择、交叉操作和变异操作，过程如下：

1.1)在种群的初始化中，用一个网络结构来表示一个进化种群，一个网络结构表示为Phenotype和Genotype两种形式，在Phenotype中，一个个不同形状的图形表示不同的CNN模块，不同的路径代表不同的初始化染色体，在初始化过程中，所有染色体的结构均是随机生成，Genotype展示了对每条染色体的具体编码方式，对所述CNN模块中的超参数进行编码；

1.2)种群的初始化完成后，对得到的CNN结构使用图像训练数据进行训练，每条染色体形成一个个图像分类器，并测试这些分类器的分类效果，选取性能较好的分类器进行交叉和变异；以GNP算法为基础，设计了相应的交叉和变异策略用来更新染色体的结构和超参数；过程如下：

1.2.1)交叉是通过交换两条染色体的部分结构来得到新染色体的操作，要进行交叉操作，首先需要选择两条染色体作为交叉的对象；采用竞标赛选择法实现对染色体对象的选取，通过竞标赛选择法，将选取两条染色体作为交叉过程中的父代染色体，选取完毕后，在两个染色体中分别随机选取交叉点，在原有的种群网络结构图中，通过修改两个父代染色体在交叉点的连接路径，即可实现染色体的交叉操作；

1.2.2)变异是通过变异染色体的超参数和网络结构来实现对新染色体的构建的，首先也需要通过竞标赛选择法选取父代染色体，父代染色体选取完成后，为当前染色体设计了两种变异策略：结构变异和超参数变异，结构变异用于改变CNN分类器的深度，进化出能有效提取图像特征的CNN结构；超参数的变异用于寻找每个模块的最优参数组合；

1.3)在进化过程中，通过设置种群的交叉概率和变异概率来控制每一代进化过程中产生的子代数量，在任意一代的进化过程中，首先对通过交叉变异而得到的子代CNN结构进行训练，使其成为一个个图像分类器，

其中，交叉操作的子代CNN结构包括由从parent1继承而来，记作P_{i_1},由parent2继承而来，记作P_{i_2}；

变异操作得到的子代CNN结构包括由从parent1继承而来，记作P_i，由自身变异产生记作M_i；

子代CNN结构相对于父代结构的结构改变度为：

其中，p_{i_1}表示P_{i_1}中包含的权重参数个数，p_{i_2}表示P_{i_2}中包含的权重参数个数，p表示P_i中包含的权重参数个数，m表示M_i中包含的权重参数个数；

将权重初始化，将所有权重参数设为均值为0，方差为1的随机数；

子代训练批次：通过其结构改变度来计算子代CNN结构训练批次，具体公式为：

其中，min_epoch表示对一个分类器的最小训练批次，max_epoch表示对一个分类器的最大训练批次，公式(2)将子代的训练批次投影到一个位于min_epoch和max_epoch之间的一个值，且epoch_i是随δ_i按对数性质变化的函数曲线；确定每个子代的epoch之后，对子代CNN进行epoch批次的数据训练，即可得到子代CNN分类器；

再将这些子代CNN分类器和父代CNN分类器合并，根据每个CNN分类器的结构复杂度和测试准确率设定一种多目标评价方法，选择性能较好的图像分类器进入下一轮的CNN结构进化；

2)多目标的网络评价及其优化方法

将CNN分类器的分类准确率和结构复杂度作为优化目标，使用多目标优化方法对一个CNN分类器进行评价，使进化计算能最终产生符合实际应用的最优CNN分类器。

2.如权利要求1所述的一种基于优化深度卷积神经网络结构快速进化的图像分类器构建方法，其特征在于：

所述步骤2)中，在进化计算的过程中，借鉴密度估计方法对PF曲线上的Pareto最优解集进行fitness函数值的计算，从而确定每个Pareto解的具体优化指标；

对于MOP问题中的任意一个解xi,定义了关于该解的两个指标：irank和idistance，irank表示该解的支配等级，irank越小表示支配等级越高，对应的解越好；idistance表示这个点的拥挤距离，idistance越大表示当前点的覆盖度大，对应的解越接近最优；对于两个具有不同rank值的解向量，选取具有较低rank值的解作为最优解，若两个解的rank值相同，则认为具有更大distance值的解更适合成为最优解。