[发明专利]一种融合数据增强和深度学习的时间序列预测方法

说明书

本发明公开了一种融合数据增强和深度学习的时间序列预测的方法，包括步骤如下：对各个风机中的传感器的示数进行收集得到相关时间序列的数据集；对数据集进行预处理，对数据集按照一定的比例加入高斯噪声进行数据增强；使用深度学习模型Informer的编码器进行编码，提取时间序列中的时间特征，数据特征；将特征输入编码器，在训练中加入对抗训练，实现数据集数量翻倍的效果，同时提高模型的鲁棒性；构建分位数损失函数，对每一轮的训练进行优化。本发明从数据增强的角度，同时考虑了添加基于规则的高斯噪声和基于梯度的对抗训练实现数据增强，与深度学习模型Informer进行融合，可以实现时间序列的预测。

技术领域

本发明属于时间序列预测技术领域，具体涉及一种融合数据增强和深度学习的风力发电机中传感器示数的预测方法。

背景技术

目前我国大力发展风力发电机，风力发电机会应用在很多的场景，例如海上风力发电和陆地风力发电等，保持风力发电机一直处在平稳运行状态是确保发电量的重点。风力发电机中对每个关键的中间件都有传感器进行数据监控，对数据进行时间序列的相关分析并对未来的数据进行预测，如果可以准确预测出风机可能出现的隐患可以有效减少风机的成本且保障风机的发电效率。

对于时间序列预测一直是学术界和工业界的热点问题，基于CNN的模型使用多个因果卷积层来对数据进行建模。DeepAR基于RNN架构，使用解码器-编码器的结构来模拟序列的概率分布。LSTNet是融合自回归和LSTM方法捕捉长短期依赖。基于Transformer的方法由于多头注意力机制在预测方面取得巨大成功。

数据增强在数据处理中作为一种有效手段被广泛使用，面对数据集不足、数据集不够准确等情况人们通常会选择数据增强来提升模型的性能。添加随机噪声作为一种常用手段，一般都是将噪声添加到训练集中防止模型过拟合。在时间序列中，对每一个时间序列数值基于某种规则随机的添加噪声来形成新的序列达到数据增强的目的。Fields等人通过大规模的实验证明添加噪声到训练集可以降低模型的敏感性从而提高模型的通用性。

对抗训练在自然语言和图像处理中有大量的研究成果，主要方法是通过添加鉴别器或者基于梯度来构造一些扰动形成对抗样本加入到原始数据集中，可提升模型对对抗样本的防御能力，提升模型的泛化能力和鲁棒性。对抗训练中如何确定添加扰动的规模是一个关键性问题。Goodfellow等人第一次提出对抗训练这个概念，在原始数据集中加入一定程度的扰动得到对抗样本进行训练可以提升性能。Miyato等人提出了Fast GradientMethod(FGM)，根据具体的梯度生成更好的对抗样本。

发明内容

针对于上述现有技术的不足，本发明的目的在于提供一种融合数据增强和深度学习的时间序列预测方法。

为达到上述目的，本发明采用的技术方案如下：

本发明的一种融合数据增强和深度学习的时间序列预测方法，基于informer模型，使用添加基于规则的高斯噪声和基于梯度的对抗训练两种数据增强手段，可以有效的提高模型性能。包括步骤如下：

(1)原始数据通过添加不同比例的基于规则的高斯噪声，实现数据增强得到新的数据集；

(2)编码器对新的数据集进行特征编码，将时间序列数据转换为多维的矩阵向量，从而得到数据输入；

(3)编码器使用多头注意力机制去计算各个数据的权重，在训练过程中不断更新权重，编码器处理后得到输出和新的数据再作为解码器的输入，在模型的Embed层中加入对抗训练实现数据增强，解码器也是通过和编码器形成多头注意力和自身有掩码的多头注意力去捕捉时间序列中的复杂的线性关系；

(4)构建损失函数，在每一次的训练中不断更新权重参数，训练结束后可以对时间序列进行预测。

为优化上述技术方案，采取的具体措施还包括：