[发明专利]基于自适应粒子群的最小二乘支持向量机预测方法

摘要

本发明涉及一种基于自适应粒子群的最小二乘支持向量机预测方法，该方法根据群体的收敛程度和个体的适应值来调整惯性权重，加快训练速度，利用该算法迭代求解LS‑SVM中出现的矩阵方程，避免矩阵求逆，节省内存，并求得最优解。该方法可以有效简化训练样本，提高训练速度，且分类精度良好，收敛速度快，有很好的泛化能力。解决了预测时特征维数较高、特征之间存在冗余且样本有限的问题。

主权项

一种基于自适应粒子群的最小二乘支持向量机预测方法，其特征在于，包括如下步骤：步骤一)采取调整惯性权重因子ω和增加约束因子α以及借助迁移学习的思想引入源域因子和目标域因子的措施，对基本PSO模型进行改进，得到改进的自适应PSO模型：vik+1=ω·vik+c1r1[ξq(pik-xik)+ξq-1(pik-1-xik-1)]+c2r2[ξq(pgk-xik)+ξq-1(pgk-1-xik-1)]]]>xik+1=xik+α·vik+1]]>vi=vmaxvi>vmax-vmaxvi<-vmax]]>其中，ξq,ξq‑1∈Rn，ξq成为目标域因子，ξq‑1源域因子；特别的，当ξq‑1＝0时ξq＝1；步骤二)根据群体的收敛程度和个体适应值来动态调整ω，具体方法如下：当f(xi)＜f(pi)时，满足此条件的粒子时群体中的一般粒子，具有良好的全局寻优能力和局部寻优能力，惯性权重ω随着搜索的进行按如下公式变化：ω=ωmin+(ωmax-ωmin)kmax-kkmax]]>其中，f(xi)为当前适应度；f(pi)为历史最好位置适应度；ωmax为搜索开始时最大的ω值，设为0.9；ωmin为搜索结束时最小的ω值，设为0.2；k位迭代所进行的步数；kmax为最大迭代次数；当f(xi)＜f(pg)时，满足此条件的粒子是群体中的较优粒子，已经比较接近全局最优，所以应赋予较小的惯性权重，以加速向全局最优收敛，惯性权重ω随着搜索的进行按如下公式变化：ω=ω-(ω-ωmin)|f(xi)-f(pi)f(pg)-f(pi)|]]>其中，f(pg)为群体最好位置适应度；ωmin为搜索结束时最小的ω值，设为0.2，粒子适应值越好，其惯性权重越小，有利于局部寻优；步骤三)基于自适应PSO模型的最小二乘支持向量机算法的流程如下：Step 1：选择合适的训练样本和测试样本并进行预处理；Step 2：初始化粒子群参数，包括微粒的速度和位置，设定粒子群参数，在空间Rn中随机产生m个粒子(x1,x2,…,xm)组成初始种群X(k)；随机产生各粒子xi的初始速度(vi1,vi2,…,vim)组成速度矩阵V(k)；每个粒子的个体最优值pi初始值为xi的初始值；Step 3：用训练样本训练最小二乘支持向量机LS‑SVM，计算每个粒子个体的适应值f(x)，适应值函数为：f(xi)=1lΣi=1l(yi-xi)2]]>式中，xi为第i个样本的实际值，yi为第i个样本的预测值，l为测试样本个数，根据粒子的适应度值更新pid和pgd；Step 4：对每个粒子，进行相应的比较Step 4.1：比较当前适应度f(xi)和历史最好位置适应度f(pi)，若f(xi)＜f(pi)时，则pi＝xi，并根据式调整ω；Step 4.2：比较群体所有粒子当前适应度f(xi)和群体最好位置适应度f(pg)，若f(xi)＜f(pg)时，则pg＝xi，并根据式调整ω；Step 5：根据改进的PSO模型更新粒子的速度和位置，产生新种群X(k+1)；Step 6：判断速度向量是否满足约束条件‑vmax≤vi≤vmax，若不满足则按照如下规则调整：vi=vmaxvi>vmax-vmaxvi<-vmax]]>Step 7：判断适应度值是否满足要求或者是否达到最大迭代次数，若满足停止条件，则寻优结束，将全局最优粒子映射为优化的LS‑SVM模型参数；否则k＝k+1，转至Step 3；Step 8：利用训练样本数据和Step 7得出的参数对LS‑SVM进行求解，得到矩阵方程的最小二乘解，即对应式中最优参数αi和b。