[发明专利]一种基于变分自编码器的动态系统运行状态建模方法

说明书

本发明提出了一种基于变分自编码器的动态系统运行状态建模方法。基于节点嵌入、边嵌入、编码器模块、解码器模块和Gumbel约束将系统各部件上的传感器监测的数据使用图的形式建立连接，利用编码器结合Gumbel约束学习到边的拟合函数。然后通过该拟合函数结合上一时刻的系统运行状态推断出下一时刻的系统运行状态。采用BP算法反向传播推断的状态与真实状态的差异来学习最优的表达函数来对系统状态进行预测。

技术领域

本发明涉及互联网领域，具体为一种基于变分自编码器的动态系统运行状态建模方法。

背景技术

动态系统运行状态建模方法可以为多主体的复杂系统之间建立有效的模拟，学习主体与主体之间复杂的动态交互关系。解决针对复杂系统状态的有效演化分析。对于交通系统、人群行为、物理系统等可以抽象为图结构的系统具有很好的解释效果。在此基础上，可以为强化学习提供演化环境的支持，作为针对系统状态预测有需求的技术的支撑。最接近本发明的技术有：

(1)、堆叠自编码器技术：将多个自编码器逐个堆叠起来形成堆叠自编码器，其逐层学习抽象特征，接收输入数据，然后经过堆叠自编码器对其进行重构，属于典型的神经网络黑箱，适用于任意系统。

(2)、变分自编码器技术：它使用神经网络模型将观测数据中的某种分布转换为独立的正态分布，再转换回去。VAE模型训练完成后可以单独取出解码器使用，在解码器中输入正态分布生成所需数据。

(3)、深度置信网技术：将受限玻尔兹曼机逐层堆叠形成深度置信网络，逐层训练，使用更少的神经元重构上一层的输入来学习隐含的数据之间的规则，最后通过全局微调来避免陷入局部最优的情况，适用于复杂系统规则学习。

其中，堆叠自编码器适用于任何系统，但是在实际使用中它的表现效果并不是太好。针对于具体问题，堆叠自编码器需要针对性优化才能够实际应用，然而优化则需要对其结构等进行修改。变分自编码器则是对自编码器进行了进一步优化，对其压缩状态进行了约束和特征分离，效果要优于自编码器。但是其预测能力不足。针对的是重构数据。深度置信网络同样预测能力不足，其针对的是从数据中学习规则，然而其使用场景限定在了对于数据的合理性判断上。

发明内容

为了解决现有技术中的缺点和不足，本发明提出了一种基于变分自编码器的动态系统运行状态建模方法。把动态系统建模分为两部分，一部分将多主体之间动态关系的学习，另一部分基于学习到的关系对于系统状态进行预测。最后使用预测出来的系统状态和真实的系统状态进行对比来对神经网络进行权重调整，规则优化。

本发明的技术方案为：

一种基于变分自编码器的动态系统运行状态建模方法。基于节点嵌入、边嵌入、编码器模块、解码器模块，包括以下步骤：

步骤(1)、基于图神经网络设计节点嵌入和边嵌入神经层。

步骤(2)、基于节点嵌入、边嵌入和变分自编码器设计本文提出的建模方法。

步骤(3)、使用编码器对多维时间序列数据建模，学习维度(节点)与维度节点之间的关系(边分布函数)，即传感器与传感器之间的关系。

步骤(4)、边分布函数近似拟合Gumbel分布特征。为边分布添加Gumbel噪声。

步骤(5)、基于边分布函数和上一个时刻的系统状态预测下一时刻的系统状态。

步骤(6)、多个预测步骤叠加在一起形成解码器，针对具体需求预测时间长度来确定预测步数。

步骤(7)、单独使用解码器对未来系统状态进行预测，通过输入初始系统状态来预测未来固定时间的系统状态变化情况。

本发明的有益效果：

(1)通过使用图神经网络，有效的对不同数据维度之间的关系进行建模表示(线性相关性或者非线性相关性)。