[发明专利]一种梯级电站的上下游水位预测方法

权利要求书

1.一种梯级电站的上下游水位预测方法，其特征在于，它包括以下步骤：

步骤1，选取输入变量与输出变量；

步骤2，对数据进行标准化处理，消除量纲的影响；

步骤3，确定输入向量维数、LSTM层数、输出向量维数，以及时间步；

步骤4，LSTM的前向传播过程和误差反向传播过程；前向传播过程按时间步依次输入LSTM网络，得到相应的输出值；以输出值与真实值的误差平方和为损失函数，进行误差沿时间反向传播来更新参数；

步骤5，运用训练好的模型进行多时刻连续预测；

所述步骤3中输入向量维数是指输入变量的个数；输出向量维数是指输出变量的个数；LSTM层数设置为1-3；时间步是指训练模型时每个子序列的时间数，时间步的确定采用网格搜索的方法，首先结合实际情况划分合理的范围，然后在此范围内依次进行模型训练，根据验证集损失函数最小的原则确定时间步；

所述步骤2中标准化处理过程为：

采用min-max标准化的方法，将步骤1中原始值映射到[-1，1]区间，转换函数如下：

其中，x为原始数据，x′为标准化后的数据，min为样本的最小值，max为样本的最大值；

所述步骤4中LSTM的前向传播过程和误差反向传播过程的详细过程为：

c_t-1表示t-1时刻隐含层的单元状态，根据历史信息和当前信息来更新，用于储存长期记忆；h_t-1表示t-1时刻隐含层的输出；LSTM中有三个门：输入门、遗忘门和输出门；其中i_t表示输入门，用以控制当前时刻的输入信息有多少会保存到单元状态中；f_t表示遗忘门，用以控制前一时刻的单元状态会有多少保留到当前的状态中；o_t表示输出门，用以控制新的单元状态会有多少输出到h_t中；表示t时刻输入的单元状态，包含t时刻输入的信息；c_t表示t时刻隐含层的单元状态，根据历史信息和当前信息来更新，用于储存长期记忆；h_t表示t时刻隐含层的输出；σ表示sigmoid激活函数，tanh表示激活函数；

前向传播过程的具体公式为：

遗忘门：

net_f,t＝W_fhh_t-1+W_fxx_t+b_f

f_t＝σ(net_f,t) (2)

输入门：

net_i,t＝W_ihh_t-1+W_ixx_t+b_i

i_t＝σ(net_i,t) (3)

输出门：

net_o,t＝W_ohh_t-1+W_oxx_t+b_o

o_t＝σ(net_o,t) (4)

当前输入的单元状态：

隐含层的单元状态：

隐含层的输出：

输出层：

其中，表示对应元素相乘，W_fh,W_fx,W_ih,W_ix,W_oh,W_ox,W_ch,W_cx,W_y分别是对应的权重矩阵，b_f,b_i,b_o,b_c,b_y分别为对应的偏置项；

LSTM的训练算法仍然是误差反向传播算法；由于LSTM的前向传播过程是从左到右的有序传播，因此误差反向传播过程也是沿时间反向传递，称为BPTT算法；要训练的参数包括权重矩阵W_fh,W_fx,W_ih,W_ix,W_oh,W_ox,W_ch,W_cx,W_y和偏置项b_f,b_i,b_o,b_c,b_y；将误差沿时间反向传播，需要计算每个时刻的误差项；设t时刻真实值d_t与输出层估计值y_t的误差为e_t，0到T时刻的总误差为E，即：

需要说明的是，其中：▽表示梯度，如表示E对net_y,t的梯度；进一步可以计算各个梯度分别为：

由和可得：

进而得到权重矩阵和偏置项的梯度：

由以上梯度公式就可以采用梯度下降法来更新权重和偏置项，将梯度下降法和拟牛顿法中的BFGS算法相结合，在初始阶段误差比较大时，采用下降梯度法，当总误差减小到一定程度后，采用BFGS法来训练，并通过Wolfe-Powell线搜索来搜索合适的步长，Wolfe-Powell线搜索准则为：

其中，ω表示模型中的所有参数，E(·)表示损失函数，E′(·)表示损失函数的梯度，δ_ω表示下降方向，α表示搜索步长。