[发明专利]一种基于贝叶斯正则化神经网络的电力负荷预测方法

摘要

本发明公开了一种基于贝叶斯正则化神经网络的电力负荷预测方法，包括以下步骤：获取电量历史数据，分析影响用电量增长的关键因数；确定BP神经网络结构；用BP算法训练网络使总误差F(W)达到最小；计算有效参数个数γ；使用贝叶斯方法计算超参数α和β的新的估计值；重复执行上述直到达到所需精度，从而完成贝叶斯正则优化神经网络建立；输入新的影响用电量增长的关键因数，得到该时段的全社会电力负荷情况。本发明的优点是：将贝叶斯方法用于神经网络的建模过程中，通过正则化方法修正神经网络的训练性能函数来提高其泛化能力，其收敛速度快，能得到更小的训练误差。

主权项

1.一种基于贝叶斯正则化神经网络的电力负荷预测方法，其特征在于：包括以下步骤：(1)获取电量历史数据，分析影响用电量增长的关键因数；(2)确定BP神经网络结构，根据先验分布对网络参数赋初值，初始化超参数α和β；记神经网络训练模型训练样本D＝(xi,ti)，i＝1,2,L,n，n为训练样本总数，W为网络参数向量，给定网络结构H和网络参数W的条件下，网络的误差函数ED取误差的平方和：式中f(·)为网络的实际输出，t为神经网络的输出量；为了提高BP神经网络的泛化能力，通过正则化方法在误差函数后加上权衰减项EW：式中m为网络参数总数，于是总误差函数可定义为：F(W)＝βED+αEW(3)用BP算法训练网络使总误差F(W)达到最小：通过计算各层神经元的输出值，采用梯度下降法修正连接权值，每一次连接权值的修正量与误差函数的梯度成正比，从输入层反向传递到各层，将初始权值与对应的调整量相加，计算出新的权值，如此循环直至各层误差平方和达到设定值为止；(4)计算有效参数个数γ：设F(W)取最小值时所对应的权值为WMP，将F(W)在WMP附近泰勒展开，忽略高次项，得到：ZF≈(2π)m/2(det(▽2F(WMP))‑1)1/2×exp(‑F(WMP))式中，▽2F(WMP)＝β▽2ED+α▽2EW表示F(W)在WMP点的Hessian矩阵；为了提高计算速度，利用高斯‑牛顿逼近法对Hessian矩阵作进一步简化，得到▽2F(WMP)≈2βJTJ+2αIm式中，J表示ED在点WMP处的雅克比矩阵；根据下式计算有效参数个数γ＝m‑2αMPtr[▽2F(WMP)]‑1式中，m表示网络参数总数。γ表示网络中有多少参数在减少总误差函数方面起作用，其取值范围为[0,m]；(5)使用贝叶斯方法计算超参数α和β的新的估计值：根据最大似然原理，利用下式求出满足似然函数p(D|α,β,H)最大的α和β，即得到最优超参数：(6)重复执行步骤3‑5直到达到所需精度，从而完成贝叶斯正则优化神经网络建立；(7)输入新的影响用电量增长的关键因数，得到该时段的全社会电力负荷情况。