[发明专利]用于雷达回波外推的循环神经网络预测法及记忆单元结构

摘要

本发明涉及一种用于雷达回波外推的循环神经网络预测法及记忆单元结构，属于气象技术领域，本发明包括用于控制输入影响的输入门结构，和用于控制上一个时间点状态保留程度的遗忘门结构，还包括ReLU函数模块；输入门结构与遗忘门结构并联，二者的输出与ReLU函数模块连接。本发明的优点如下1、本发明首先将LSTM网络应用于雷达回波外推，验证了使用RNN型深层网络模型进行雷达回波外推的可行性。具有较好的外推预报效果。2、在使用RET‑RNN网络模型进行雷达回波外推的实践中对模型的细节进行了研究，对RET‑RNN网络模型进行了进一步的优化，能更好地解决过拟合和梯度消失的问题。

主权项

用于雷达回波外推的循环神经网络预测法，其特征在于包括以下步骤：n表示训练的总重复次数，m表示保持学习率的重复训练次数，k表示循环神经网络按时间序列展开的深度，即k个时间帧，每一个时间帧输入一张雷达回波图像，从第m+1次起对学习率进行衰减，程序在加载数据集后，以队列的方式分别保存训练集、验证集和测试集，每次只传给模型进行一次训练、验证或测试的数据；RET‑RNN表示本文改进记忆单元结构的循环神经网络；算法包括训练和预测两个阶段，在训练阶段首先判断是否达到目标重复次数n，若未达到则判断是否达到保持学习率的训练次数m，若未达到则保持学习率，否则对学习率乘以衰减因子进行衰减；随后从训练集队列中分批获取数据输入模型进行训练，训练完成后从验证集队列中分批获取数据输入模型进行验证；在训练阶段包括以下运行步骤：步骤1、RET‑RNN将预测作为分类问题处理，对于每一个像素点有0~255共256种分类标签，将雷达回波源数据中的每个像素点映射为一个256维的0‑1向量，输入到RET‑RNN网络中；步骤2、将数据输入到模型后，为防止过拟合，采用dropout方法控制输入保留比例；在神经网络的前向传播中，将k帧输入数据逐帧输入到RET‑RNN网络中，最后的得到的输出即是第k+1帧的预测输出，将预测输出的第k+1帧数据作为输入，便能得到第k+2帧的预测输出；步骤3、在训练过程中，得到预测输出后，计算预测输出和实况数据的交叉熵作为训练损失，使用随机梯度下降法修正网络参数；步骤4、在重复训练次数达到预设的重复训练次数后，保存训练好的模型。至此，训练流程完成；在预测阶段包括以下运行步骤：步骤1、预测作为分类问题处理，输入向量化后的雷达回波数据；步骤2、将数据输入到模型后，将k帧输入数据逐帧输入到RET‑RNN网络中，最后的得到的输出即是第k+1帧的预测输出，将预测输出得到的第k+1帧作为输入，得到未来第k+2帧的预测输出；步骤3、在预测阶段，得到预测输出后，做一次softmax回归运算，得到输出帧每个像素点属于每个分类标签的概率，对于每个像素点取概率最高的分类标签即得到该时刻预测的雷达回波外推图像。