[发明专利]一种基于改进的长短期记忆网络的电力负荷预测方法

权利要求书

1.一种基于改进的长短期记忆网络的电力负荷预测方法，其特征在于，包括以下步骤：

步骤一，根据历史电力负荷初步筛选历史负荷这一特征作为模型的输入；采用最大信息系数MIC分析历史电力负荷，将最大信息系数大于0.6的历史负荷作为预选集[x₁,x₂,,x_k]，剩余未被选中的历史负荷作为备选集[c_1,c₂,,c_k]；

步骤二，考虑影响电力负荷的相关因子，采用最大相关最小冗余法对历史负荷进行二次筛选；收集影响电力负荷的相关因子的数据包括温度[TI₁,TI₂,,TI_k]，湿度[HI₁,HI₂,,HI_k]，露点[DI₁,DI₂,,DI_k]，日期种类，时段种类；日期种类，时段种类是离散型特征，将其进行编码处理；即将离散型的数据转换成1到n之间的数，这里n是一个列表的不同取值的个数，可以认为是某个特征的所有不同取值的个数；并采用特征提取方法对影响电力负荷的相关因子进一步分析，得到特征集；特征提取方法采用包裹式特征选择法对历史负荷进行二次筛选；先采用最大相关最小冗余法分析预选集下的历史负荷以及备选集下的历史负荷，得到最大系数的特征，并将该特征放入预选集下，结合考虑其他影响负荷的相关因子，组成初步的训练集TR＝[x^tr,Y]，和只由预报因子组成的测试集TE＝[x^te]，并对数据进行归一化的处理；将初步训练集采用改进的长短记忆网络进行训练，得到的预测结果与测试集进行对比，采用均方根误差作为阈值，判别是否继续向预选集下加入特征；采用均方根误差RMSE进行判别时，将加入特征前一次所得到的RMSE作为记录，将加入特征后所得到的RMSE与之前作比较，若加入特征之后RMSE变大，则停止加入特征；

步骤三，将筛选后的最终特征集作为模型的输入，采用改进的长短记忆网络进行预测，得到最终的预报结果；改进的长短记忆网络ILSTM在第t时段信息前向传播的步骤和计算公式为：

u_t＝σ(net_ut) (2)

o_t＝σ(net_ot) (7)

h_t＝o_t*tanh(c_t) (8)

z_t＝W_y·h_t+b_y (9)

y_t＝σ(zt) (10)

上述公式中，net_ut,net_ot和z_t是t时段的当前阶段的状态；W_u,和W_o分别是他们的权重矩阵；b_u,和b_o分别代表他们的偏差向量；u_t,C_t,o_t,h_t和y_t分别是时段t的更新门，信息状态，细胞状态，输出门，隐藏层输出和预测值；tanh和σ分别是tanh和sigmoid激活函数；符号·和*分别代表矩阵乘法和矩阵元素间乘法；

ILSTM中，在第t时段信息反向传播的步骤和计算公式为：

a.定义最常见的平方误差函数作为需要优化的目标

b.计算输出层的误差

c.计算隐藏层的误差

W＝W-η·δW (27)。

ILSTM中，第t个时段权重更新的步骤包括：

采用Adam优化算法，用[δw_h,δw_x,δb]和[δw_y,δb_y]来更新[w_h,w_x,b]和[w_y,b_y]；为了更好展示更新过程，将权重用符号W表示，权重的梯度用δW表示，Adam更新权重的通用公式为：

m_t＝β₁·m_t-1+(1-β₁)·δW_t (28)

v_t＝β₂·v_t-1+(1-β₂)·(δW_t)² (29)

其中E_t为误差函数，y_t和Y_t分别为预测值和观测值；m_t和是偏一阶矩估计和修正一阶矩的偏差，v_t和是偏二阶矩估计和修正二阶矩的偏差；β₁,β₂和ε为Adam参数，分别默认取0.9,0.999和10^-8；η代表学习效率；

按照上面的公式先前向传播计算预测值，再反向传播更新一次权重，每轮将训练集取一定大小的批进行训练，每批完成一次更新。