[发明专利]基于自编码器和回声状态网络的发动机剩余寿命预测方法

权利要求书

1.基于自编码器和回声状态网络的发动机剩余寿命预测方法，其特征在于，包括以下步骤：

1)对于获取的不同的发动机随时间产生的传感器数据进行数据选择形成原始数据集每个数据样本都包含第i个环境中的发动机的编号、从开始到现在的运行时间、操作设置以及传感器的信息，其中，i表示第i个环境，随后对该原始数据集进行数据的3sigma降噪和归一化处理，3sigma准则来消除测量数据中的粗差，即数据分布几乎集中在(μ-3σ,μ+3σ)区间，其比例是99.73％，超过该区间的数据比例为0.27％，这部分数据属于粗大误差被认为是原始数据的噪声，我们在降噪过程中消除这部分数据，归一化则是将数据大小限定在[0,1]之间，3sigma和归一化计算式如(1)(2)所示；

P(μ-3σ＜x＜μ+3σ)＝0.9973       (1)

式中：μ代表样本平均值，σ代表标准差，为归一化处理之后的第n个特征所包含的第m个数据点的值，X_m,n为处理前的原始数据，分别是对应特征的最大值和最小值；

经过数据处理后对传感器数据进行趋势分析，经过数据分析可知，传感器信号随发动机退化过程的变化趋势分为单调上升、单调下降、不规则变化、恒定值四种，排除恒定不变的值并对训练集、测试集进行数据清理及数据集重组，只保留14类传感器信号，形成新的训练集、测试集；

2)将步骤1)中得到的高质量数据输入到改进的堆叠式稀疏编码器中进行训练，编码器结构使用14-8-4-1的网络结构，输入节点数14是各个运行周期的14维传感器数据值，两个隐藏层节点数分别是8和4，输出节点数1则对应单个运行周期的特征值，先进行初始化参数，再初始化第一层的权重值，其损失函数、总体代价函数计算方法如式(3)、式(4)所示：

式中，J(W,b)定义中的第一项是平均平方和误差项,第二项是权重去伪项,防止过拟合，其中c是样本个数，h_w,b()是隐藏层函数，其近似恒等函数，使输入接近输出，x^(τ),y^(τ)分别为第τ个样本的输入与输出，W,b分别是编码器的权重、偏置参数矩阵，γ是权重衰减系数，n_l为网络层数，s_l为第l层的单元数,为l层第j个神经元对第τ个样本的权重，β为惩罚因子权重，ε为隐藏神经元个数，每层的编码、解码过程中BN层和Dropout层优化输入和输出，解决梯度消失，进行稀疏约束，对于每层的输出和均方差项使用梯度下降法进行迭代优化，使用反向传播法进行训练，优化权重和偏置值，最终计算重构误差并应用Adam算法下降误差，调节参数；

3)将步骤2)的结果用于构建HI值，每个发动机在经过改进的堆叠式稀疏自编码器特征提取后，最终获得了一组一维特征值，其中每个特征值代表发动机的每个寿命周期的多传感器数据信息，根据每个发动机全寿命周期的一维特征值，得到某个寿命周期的实时状态特征和历史退化特征以及发动机失效时的特征，通过改进的堆叠式稀疏自编码器提取的发动机失效特征和其某个寿命周期的实时特征构建发动机的HI如下式所示：

其中，T为该发动机的HI曲线长度，F_k是第k个寿命周期的实时特征，F_end是发动机失效特征，在构建过程中，HI的取值为0代表发动机完全失效，为1代表发动机完全正常，因此，利用式(6)将HI的退化状态更新并限制在[0,1]之间，HI、HI'分别是更新之前和更新之后的HI值，HI_max、HI_min分别是HI的最大值和最小值；

4)将步骤3)输出的HI值或HI曲线输入注意力回声状态网络，回声状态网络中引入注意力机制，目的是将提取的发动机的多种不同的特征分别进行自适应处理，保证将输入元素完整的输入到神经网络中处理并得到正确的输出，注意力机制定义如下：

其中，注意力机制的输出d(t)是一个向量，其维度和t时刻输入层状态u(t)是一致的，代表激活函数，激活函数是tanh函数,W_in为输入层与储备池的连接权重，为储备池状态反馈权重,b_d为注意力机制的偏置，储备池前一时刻的输出状态x(t-1)和t时刻输入层状态u(t)是用来确定输入层每个特征的重要性水平，经过注意力机制的更新，原始的输入会变成：

其中，是新的输入层状态，⊙指的是元素式乘法，当新的输入代替原有的输入之后，回声状态网络储备池的状态也将会改变，其将更新为：

其中，x(t)是t时刻储备池状态，λ是渗漏率，取值范围[0,1]，W_back是输入和输出反馈的权重矩阵，是t-1时刻输出层状态，η是正则化系数；

采样阶段：选取网络的初始状态为0，训练样本经过输入层与储备池的连接权重W_in被加入到储备池；

权值计算：在采样阶段收集到系统状态x(t)和样本数据，计算输出连接权重矩阵W_out,即计算权值矩阵满足网络均方差误差最小，利用粒子群优化算法更新网络的参数，获得最佳参数，更新或记录储备池状态，使用线性回归确定输出连接权值矩阵W_out；

5)通过步骤4)得到预测的发动机各个周期的RUL值，模型训练过程中的损失函数如式(10)所示，X_n为数据样本个数，Y_i指的是第i个环境中发动机的RUL预测值与RUL实际值的差值；

6)测试阶段，从传感器获取到随时间变化的数据，通过步骤1)获得处理后的高质量数据及有效传感器个数，步骤2)将每个周期的数据进行特征压缩，然后利用步骤3)的HI构建方法得到能表征退化趋势的HI值，构造HI曲线，将特征值输入步骤4)的注意力回声状态网络中获得预测的RUL值。