[发明专利]一种基于群体阶段性样本训练的k-近邻预测全局优化方法

摘要

一种基于群体阶段性样本训练的k-近邻预测全局优化方法，在差分进化算法为框架，基于k-近邻预测方法，通过k-近邻预测值来代替新个体的实际目标函数值，从而减少函数评价次数；在进化过程中，根据种群中个体的拥挤度，即各个体之间的平均距离将算法分为两个阶段，从而分阶段进行样本训练，第一阶段，根据平均距离判断何时终止对所有个体进行样本训练，避免前期样本训练代数设置不恰当而影响算法性能；第二阶段，当样本训练达到一定数量后，根据k-近邻预测值与实际目标函数值之间的误差保存样本个体，避免样本个体过多而导致空间复杂度较高。本发明不需要进行样本训练代数设置，且空间复杂度较小。

主权项

一种基于群体阶段性样本训练的k‑近邻预测全局优化方法，其特征在于：所述优化方法包括以下步骤：1)初始化：设置种群规模N_P，交叉概率C_R，增益常数F，置进化代数g，连续进化代数T，预测误差值θ，个体重新评价数量η和η^*，其中η^*>η；2)随机生成初始种群P＝{x^1,g,x^2,g,...,x^Np,g}，并计算出各个体的目标函数值，其中，进化代数g＝0，x^i,g,i＝1,2,…,Np表示第g代种群中的第i个个体；；3)根据公式(1)计算出初始种群中各个体之间的平均距离d_initial；$d_{initial}=\left(\underset{i=1}{\overset{N_p}{\Σ}}\underset{k=i+1}{\overset{N_P}{\Σ}}\sqrt{\underset{j=1}{\overset{N}{\Σ}}{\left(x_j^{i,g}-x_j^{k,g}\right)}^2}\right)/\left(N_p\left(N_p-1\right)/2\right)---\left(1\right)$其中，表示第g代种群中第i个个体x^i,g的第j维元素，表示第g代种群中第k个个体x^k,g的第j维元素，N为问题维数，N_P为种群规模；4)对种群中的每个个体根据式(2)进行变异：$v_j^{i,g}=x_j^{a,g}+F\·(x_j^{b,g}-x_j^{c,g})---\left(2\right)$其中，j＝1,2,…,N，N为问题维数，g为进化代数，为第g代种群中第i个目标个体的变异个体的第j维元素，分别为第g代种群中第a、b、c个个体的第j维元素，a,b,c∈{1,2,...,N_p}，a≠b≠c≠i，i为当前目标个体的索引；5)根据公式(3)对每个变异个体进行交叉生成新个体trial^i,g：${\mathrm{trial}}_j^{i,g}=\left\{\begin{array}{cc}{v}_j^{i,g}& \begin{array}{ccc}if(randb\left(0,1\right)\≤C_R& or& j=rnbr\left(j\right)\end{array}\\ x_j^{i,g}& otherwise\end{array}\right.---\left(3\right)$其中，j＝1,2,…,N，表示第g代种群中第i个目标个体对应的新个体trial^i,g的第j维元素，表示第g代种群中第i个个体x^i,g的第j维元素，randb(0,1)表示为随机产生0到1之间的小数，rnbr(j)表示随机产生1到N之间的整数，C_R表示交叉概率；6)根据公式(1)计算出当前种群中各个体之间的平均距离d_ave；7)根据如下操作进行样本训练：7.1)如果则对所有新个体进行目标函数评价，即计算新个体的目标函数值，并将这些个体作为训练样本记录；7.2)如果则进行如下操作：7.2.1)根据公式(4)计算新个体与各训练样本个体之间的距离；$d=\sqrt{\underset{j=1}{\overset{N}{\Σ}}{({\mathrm{trial}}_j^{i,g}-x_{sample}^s)}^2}---\left(4\right)$其中，表示第s个训练样本，s＝1,2,…,S，S为训练样本的数量；7.2.2)选取与新个体距离最近的k个样本个体，并根据公式(5)计算新个体的k‑近邻预测值；7.2.3)根据k‑近邻预测值对所有新个体按从小到大进行排序；7.2.4)计算当前种群的最优值如果最优值连续T代没有变化，则选举前η^*个新个体进行目标函数评价，否则选取前η个新个体进行目标函数评价，其余个体的目标函数值用代替，其中，x^best,g为当前第g代种群中的最优个体；7.2.5)计算已评价个体的预测误差值将误差值大于θ的个体加入训练样本中；8)根据公式(6)对每个新个体进行种群更新：$x^{i,g+1}=\left\{\begin{array}{cc}{\mathrm{trial}}^{i,g},& iff\left({\mathrm{trial}}^{i,g}\right)\≤f\left(x^{i,g}\right)\\ x^{i,g},& otherwise\end{array}\right.---\left(6\right)$其中，${\mathrm{trial}}^{i,g}=({\mathrm{trial}}_1^{i,g},{\mathrm{trial}}_2^{i,g},...,{\mathrm{trial}}_N^{i,g}),x^{i,g+1}=(x_1^{i,g+1},x_2^{i,g+1},...,x_N^{i,g+1}),x^{i,g}=$$\left(x_1^{i,g},x_2^{i,g},...,x_N^{i,g}\right),$公式(6)表明，如果新个体优于目标个体，则新个体替换目标个体，否则保持目标个体不变；9)判断是否满足终止条件，如果满足，则保存结果并退出，否则返回步骤4)。