[发明专利]一种基于粒子群优化与自编码器的混沌时间序列预测方法

权利要求书

1.一种基于粒子群优化与自编码器的混沌时间序列预测方法，其特征在于，包括以下步骤：

步骤1：加载混沌时间序列原始数据集x_i(t)，i＝1,2,…,d，t＝1,2,…,n，数据维数为d，样本数为n；

步骤2：选定嵌入维数m＝(m₁,m₂,…,m_d)和延迟时间τ＝(τ₁,τ₂,…,τ_d)为相空间重构参数，其中，m₁,m₂,…,m_d分别表示原始时间序列第1维，第2维，…，第d维数据的嵌入维数，τ₁,τ₂,…,τ_d分别表示第1维，第2维，…，第d维数据的延迟时间；

步骤3：利用相空间重构理论进行数据预处理；用时间延迟的方法构造高维相空间矢量X(t)＝[x₁(t),x₁(t+τ),…,x₁(p),…,x_d(t),x_d(t+τ),…,x_d(q)]，其中，表示重构后的数据，表示重构后数据维数；x₁(p),p＝t+(m₁-1)τ₁表示将原始数据第1维序列中的第p个样本重构为数据X中第p维序列的第t个样本；x_d(q),q＝t+(m_d-1)τ_d表示将原始数据第d维序列中的第q个样本重构为数据X中第di维序列的第t个样本；

步骤4：将重构后的时间序列X划分为训练数据和测试数据，其总计ts组训练数据，ss组测试数据；训练数据用来训练整个模型，测试数据用来验证训练好的模型；

步骤5：预设SAE模型的参数，选取的网络由2层自动编码器堆叠形成，输入参数包括权重衰减参数、稀疏惩罚项的权重、隐藏单元平均激活率；

步骤6：将训练数据作为堆栈自编码神经网络SAE的输入数据进行特征提取；首先将训练数据作为第一层自编码器的输入进行第一次特征提取，再将第一层自编码器的输出特征l_i(t),i＝1,…,s作为第二层自编码器的输入进行第二次特征提取，得到输出特征z_i(t),i＝1,…,k，其中s和k分别表示第一层和第二层自编码器的输出特征维数；

步骤7：采用前馈神经网络作为整个模型的输出，即两次特征提取后的输出特征z_i(t)作为前馈神经网络的输入，利用改进粒子群优化算法MPSO优化前馈神经网络的输出权值；

所述的前馈神经网络输入权值和隐含层偏置随机产生；隐含层输出矩阵G的计算方法如下：

其中z(t)表示第二层自动编码器的输出特征，α_i,(i＝1,…,r)表示前馈神经网络的第i个隐含层节点与输入层节点之间的连接权值，b_i,(i＝1,…,r)表示第i个隐含层节点的偏置，r表示隐含层中的节点个数，ts为数据个数，g(·)表示激活函数；

步骤8：采用改进的MPSO算法迭代更新粒子信息，计算新的输出权值，通过不断迭代寻找使MPSO算法的目标函数最小的输出权值；所述的目标函数设置为损失函数的L₂范数与输出权值的L₁范数的加权和：

其中W表示网络的输出权值，在PSO算法中表示粒子；T表示期望输出向量，|| ||₂表示L₂范数，|| ||₁表示L₁范数，λ是正则项系数；

具体步骤如下：

8.1：初始化改进的粒子群优化算法，设置其参数：种群规模为NP，最大迭代次数为MaxIt，搜索空间维数即为W的维数r；

8.2：利用Logistic混沌映射进行粒子位置初始化：

p_i＝μp_i(1-p_i),i＝0,1,2,… (3)

其中μ是控制参数，当0≤p₀≤1时，系统处于混沌状态；给定任意初始值p₀∈[0,1]，就可以迭代出一个确定的序列；

使用Logistic混沌映射生成一组序列，然后选择序列中的连续NP个点作为粒子的初始位置；

8.3：通过计算目标函数值评估所有的粒子；

8.4：选择所有粒子中目标函数值最小粒子的位置信息为当前的种群历史最优位置y_gbset；

8.5：设定当前所有粒子的位置信息为当前的个体历史最优位置

8.6：在迭代过程中，惯性权重ω、学习因子c₁和c₂按如下方式自适应计算：

ω＝ω_max-(ω_max-ω_min)*(t/MaxIt) (4)

c₁＝(c₁₂-c₁₁)*(t/tMaxIt)+c₁₁ (5)

c₂＝(c₂₂-c₂₁)*(t/tMaxIt)+c₂₁ (6)

其中t表示当前迭代次数，ω_max和ω_min分别为ω的最大值和最小值；

8.7：基于速度和位置更新公式更新粒子信息：

y_i(t)＝y_i(t-1)+v_i(t) (8)

其中，惯性权重ω可用于控制算法的探索和收敛能力，学习因子c₁和c₂是反映粒子间信息交换的学习因子，r₁和r₂为区间[0,1]上服从均匀分布的随机数；

8.8：应用突变策略；随着迭代次数的增加，变异概率随着迭代次数的增加而增大；一旦触发变异策略，粒子的信息被复制，新粒子的位置将会重置；如果新粒子的目标值小于突变前的粒子的目标值，新粒子将取代突变前的粒子；否则，仍将使用以前的粒子；

8.9：将所有的粒子的速度信息和位置信息限制在给定的范围内；如果速度值超出给定区间，则将速度调整为该区间内的随机数；如果位置超出给定区间，立即将速度方向；

8.10：再次通过计算目标函数值评估所有的粒子；

8.11：更新粒子的个体历史最优位置和种群历史最优位置y_gbset；

选择粒子目前的位置信息和选择具有更小目标函数值的位置为该粒子新的个体历史最优位置

将当前的y_gbset与种群中的每一个粒子位置信息带入目标函数中，若y_gbset的目标函数值更小，则y_gbset仍保持原值；若当前参与比较的粒子位置的目标函数值更小，则更新y_gbset为该粒子的目标函数值，并用更新后的y_gbset进行后续的比较，直到当代种群中所有粒子均进行一次比较；

8.12：当达到最大迭代次数MaxIt时，优化过程完成；此时的历史最优位置向量y_gbset即为预测模型的输出权值，此时便完成整个预测模型的训练，得到MPSO-SAE模型；

步骤9：利用测试数据对训练好的模型进行验证，进行混沌时间序列预测，得到模型的输出值