[发明专利]一种基于生成模型的LSTM多变量时间序列异常检测方法

说明书

本发明公开了一种基于生成模型的LSTM多变量时间序列异常检测方法，涉及复杂设备的高维数据异常检测领域。本发明针对数据集不平衡或缺少数据标签的场景，提出DG‑MTAD算法模型，其由编码器E、生成器G以及3个鉴别器D1，D2，D3组成，生成器G实现隐空间中的随机噪声Z向真实样本数据空间中生成样本G(Z)的映射；编码器E将真实样本X编码为隐空间的高效表示E(X)，从而实现不同空间下的双向学习过程。该方法采用半监督的训练方式，训练过程中仅使用正常的多变量时间序列数据训练算法模型，使得算法在数据集不平衡或缺少数据标签的场景中也能表现出较好的异常检测性能。

所属领域

本发明涉及系统可靠性领域，更具体的涉及复杂设备的高维数据异常检测领域。

现有技术

近年来，伴随着数字化革命向各个领域的加速渗透，设备迎来了数字化转型，通过不同种类的传感器对振动、电流、电压、温度、应力等设备信息进行数据采集和状态监测，由此产生了大量的多变量时间序列数据。并且随着物联网、人工智能、计算机等新一代信息技术的发展，设备数据的维数和容量还将会进一步增大。为了更全面的监测设备的工作状态，保障设备运行过程中的可靠性、安全性，降低因设备故障带来的经济损失，对设备数据进行准确、及时的多变量时间序列异常检测技术研究十分必要。然而，过去的设备异常检测技术多针对于单变量的时间序列异常检测，检测时仅考虑某一个特定指标对系统健康状态的影响，缺乏对多个指标的综合判断，使得检测结果产生误报的可能性增加，从而影响了检测结果的准确率。

在机器学习中，维度是指数据集中特征的数量，当数据集的特征数量过多时，会影响模型训练的有效性，从而带来维度灾难的问题。特别是在异常检测中，异常数据往往在低维空间中表现出更加明显的异常特征，而在高维空间中，异常特征会相对隐蔽，不容易被发现，为实现准确及时的设备异常检测带来了极大的挑战。因此，针对多变量时间序列异常检测中的高维复杂性难题，首先需要对数据进行降维操作。现有的降维方法主要分为两种：特征选择和特征提取。其中，特征选择用于过滤原始特征中不相关的或者冗余的特征，保留原始特征集的子集。而特征提取是在原始特征集基础上创建了全新的低维特征集。然而，传统的降维方法如主成分分析法(Principal Component Analysis,PCA)、隐马尔可夫模型(Hidden Markov Model,HMM)等，对数据要求较高，不能较好地捕捉变量之间的非线性关系。目前随着神经网络的发展，许多深度生成模型也被用于处理多变量时间序列特征工程，与传统方法相比，深度生成算法具有强大的从复杂特征中自动提取高效表示的能力，在处理非线性和高维数据方便表现出巨大的潜力。本发明选取了两种具有强大的分布拟合和复杂特征学习能力的深度生成模型——自编码器网络(Autoencoder,AE)和生成对抗网络，致力于解决多变量时间序列中的设备异常检测问题。

发明内容

传统的降维方法如主成分分析法(Principal Component Analysis,PCA)、隐马尔可夫模型(Hidden Markov Model,HMM)等，对数据要求较高，不能较好地捕捉变量之间的非线性关系。对此，本文提出了一种基于深度生成模型的LSTM多变量时间序列异常检测方法——DG-MTAD。该算法采用编码器和生成对抗网络(Generative Adversarial Networks,GAN)实现数据在多维特征空间与低维隐空间之间的双向映射，并额外地添加了两个鉴别器提升模型的训练效率，结构上利用长短期记忆网络(Long Short Term Memory,LSTM)优化模型结构学习时序特征，将GAN模型的生成损失与鉴别损失组合作为异常分数实现异常判决。本文对算法的详细工作原理和流程进行介绍，利用NASA公布的飞机发动机案例进行实验验证，证明了方法的准确性与时效性。

实际中，针对多变量数据的高维复杂性问题，本专利提出了一种基于深度生成模型的多变量时间序列异常检测方法，命名为DG-MTAD，该模型将编码器嵌入到对抗训练的框架，实现样本数据空间到隐空间的反向学习，避免了由于隐空间中寻找最佳逆映射过程所带来的模型准确性和实时性的损耗。并且在算法中增加了两个额外的鉴别器来改进模型的训练过程，进一步提升了编码器和生成器的模型稳定性。