[发明专利]一种基于传递熵与长短期记忆网络的TE过程时序预测方法

权利要求书

1.一种基于传递熵与长短期记忆网络的TE过程时序预测方法，其特征在于包括以下步骤：

(1)采集TE工业过程反应器单元正常操作情况下的历史数据，构成样本集(X₁,X₂,…,X_m,…,X₈,Y)，即其中X_m表示第m个变量，即物料A进入反应器的流量、物料D进入反应器的流量、物料E进入反应器的流量、回收反应物的流量、反应器的进料总流量、反应器压力、反应器液位、反应器冷却水出口温度；Y表示要预测的目标变量，即反应器温度，每个变量包含i＝(1,2,…,I)个采样时刻，即X_m＝(X_m,1,X_m,2,…X_8,i)，Y＝(y₁,y₂,…,y_I)，其中X_m,i表示第i个采样时刻的第m个变量的测量值，Y_i表示第i个采样时刻目标变量反应器温度的测量值；

(2)对物料A进入反应器的流量、物料D进入反应器的流量、物料E进入反应器的流量、回收反应物的流量、反应器的进料总流量、反应器压力、反应器液位、反应器冷却水出口温度和反应器温度历史数据进行归一化处理，处理方式如下：

对变量X_m进行归一化，表示如下：

其中，表示第i个采样时刻第m个过程变量归一化后的数据，i＝1,2,…I，m＝1,2,…M；max()为求最大值函数，min()求最小值函数；

对反应器温度Y进行归一化，表示如下：

其中，为第i个采样时刻反应器温度Y归一化后的数据，i＝1,2,…I；max()为求最大值函数，min()求最小值函数；

(3)利用传递熵进行变量选择：

①利用(2)归一化后的数据，分别计算物料A进入反应器的流量、物料D进入反应器的流量、物料E进入反应器的流量、回收反应物的流量、反应器的进料总流量、反应器压力、反应器液位、反应器冷却水出口温度与反应器温度之间的传递熵值，其计算公式如下：

变量对目标变量的传递熵值：

其中，表示变量对目标变量的传递熵值，x_m,i和y_i分别代表了变量和变量在i时刻的测量值，y_i+1代表了在未来下一时刻的测量值；为概率，和为条件概率，利用核密度估计方法求得；i＝1,2,…I，m＝1,2,…M；k和l分别为和的植入维度，通常，为了避免在计算过程中引入复杂的高维概率密度，取k＝l＝l，这不影响变量之间的传递关系；

目标变量对过程变量的传递熵值：

其中，表示目标变量对变量的传递熵值，x_m,i和y_i分别代表了变量和变量在i时刻的测量值，x_m,i+1代表了在未来下一时刻的测量值；为概率，和为条件概率，利用核密度估计方法求得；i＝1,2,…I，m＝1,2,…M；k和l分别为和的植入维度，通常，为了避免在计算过程中引入复杂的高维概率密度，取k＝l＝l，这不影响变量之间的传递关系；

②分别计算物料A进入反应器的流量、物料D进入反应器的流量、物料E进入反应器的流量、回收反应物的流量、反应器的进料总流量、反应器压力、反应器液位、反应器冷却水出口温度和反应器温度之间的传递熵的差值：

其中，表示变量到目标变量的传递熵与目标变量到变量的传递熵的差值，表示变量对目标变量的传递熵值，表示目标变量对变量的传递熵值；m＝1,2,…M；

③通过传递熵差值从物料A进入反应器的流量、物料D进入反应器的流量、物料E进入反应器的流量、回收反应物的流量、反应器的进料总流量、反应器压力、反应器液位、反应器冷却水出口温度中筛选出满足(即传递熵传递熵)的变量构造出影响目标变量的关键变量集其中，Q为满足的变量个数；

(4)建立LSTM时时间序列预测模型，具体包括以下步骤：

①将(3)筛选出的关键变量集和反应器温度一起构成LSTM的输入数据集

②确定LSTM神经网络模型，包括输入门、遗忘门和输出门，输入为数据集在第i个时刻输入的数据为数据通过输入门的具体形式为：

input_i＝σ(W_input[h_i-1,x_i]+b_input) (6)

其中，input_i为输入门在第i个时刻的输出，W_input为输入门的权重矩阵，b_input为输入门偏置，h_i-1为上一时刻的输出向量，x_i为该时刻的输入向量，[h_i-1,x_i]表示把向量h_i-1和向量x_i拼接成一个向量；σ为sigmoid函数；

遗忘门计算公式为:

f_i＝σ(W_f[h_i-1,x_i]+b_f) (7)

其中，f_i为遗忘门在第i个时刻的输出，W_f为遗忘门的权重矩阵，b_f为输入门偏置，h_i-1为上一时刻的输出向量，x_i为该时刻的输入向量，[h_i-1,x_i]表示把向量h_i-1和向量x_i拼接成一个向量；σ为sigmoid函数；

当前记忆的计算公式：

C′_i＝tanh(W_c[h_i-1,x_i]+b_c) (8)

其中，C′_i为在第i个时刻的记忆，即当前记忆，W_c为当前输入的单元状态的权重，b_c为当前输入的单元状态的偏置，h_i-1为上一时刻的输出向量，x_i为该时刻的输入向量，[h_i-1,x_i]表示把向量h_i-1和向量x_i拼接成一个向量；tanh为tanh函数；

当前时刻单元状态的计算公式：

C_i＝f_iC_i-1+input_iC′_i (9)

其中，C_i为在第i个时刻的单元状态，即当前时刻的单元状态，f_i为遗忘门在第i个时刻的输出，由式(7)得出，C_i-1为第i-1个时刻的单元状态，即长期记忆，input_i为输入门在第i个时刻的输出，由式(6)得出，C′_i为第i个时刻的记忆，即当前记忆，由式(8)得出；

输出门的计算公式：

O_i＝σ(W_o[h_i-1,x_i]+b_o) (10)

O_i表示输出门在第i个时刻的的输出，W_o表示输出门的权重矩阵，[h_i-1,x_i]即把向量h_i-1和向量x_i拼接成一个向量，b₀为该门的偏置；σ为sigmoid函数；

③对网络参数θ＝{W_f、b_f、W_input、b_input、W_c、b_c、W_o、b_o}进行随机初始化，采用Adam优化算法迭代训练LSTM神经网络，对参数θ进行更新，定义损失函数为：

其中，为第i采样时刻变量的预测值，为第i采样时刻变量实际测量值，I为总采样点的个数；

④根据迭代100次以上后的模型参数W_f、b_f、W_i、b_i、W_c、b_c、W_o、b_o对反应器温度的未来时序进行预测。