[发明专利]一种基于小波神经网络与隐马尔科夫模型的故障预测方法

权利要求书

1.一种基于小波神经网络与隐马尔科夫模型的故障预测方法，其特征在于，包括以下步骤：

步骤1：样本数据的获取，包括历史运营数据、维护数据、环境数据，历史运营数据指设备无故障运行的时间，维护数据指设备维修的次数、维修后安全运行的时间，环境数据指PCB板的电流、电压、运行温度、湿度、车载设备的震动程度；

步骤2：神经元网络建立与数据降维；

利用小波函数取代传统神经网络隐藏层的激励函数构建三层神经元网络，将小波函数的尺度和平移函数作为输入层至隐藏层的权值，取代传统的经验值选取的方式，避免出现局部收敛，利用小波函数对数据进行逼近，提高了传统神经网络的迭代速度；

步骤2.1初始条件：

确定神经网络输入样本至隐藏层神经元的初始连接权值和偏置，隐藏层神经元至输出层的初始连接权值和偏置，输入层、隐藏层、输出层的神经元数目；

步骤2.2隐藏层激励函数：

式中：表示小波函数；a_j，b_j表示隐藏层第j个神经元的尺度系数和平移系数，x表示输入信号经权值和偏置计算后的输入至隐藏层的信号；则第k个神经网络输出可表示为：

式中，f_k(x)表示神经网络第k个输出值，x_i表示第x_i个样本第i维输入，n表示隐藏层神经元数目，m表示样本输入数目，且n＜m，w_kj表示隐藏层第j个神经元至第k个输出的连接权值，w_ji表示第i个输入样本x_i至隐藏层第j个神经元的连接权值，λ_i表示输入层偏置，λ_j表示隐藏层偏置，将f_k(x)分为三部分：

(1)隐藏层第j个神经元的输入：

(2)隐藏层第j个神经元的输出：

(3)输出层第k个节点的输出：

步骤2.3自动编码：

利用步骤2.2的神经元输出对输入函数进行逼近，定义系统误差函数：

求误差函数E对w_kj、w_ji、λ_j、λ_i、尺度系数a_j和平移系数b_j的偏导数：

步骤2.4：针对上述偏导数，利用梯度下降算法对w_kj、w_ji、λ_j、λ_i、a_j和b_j进行更新，定义梯度下降算法的学习步长为β，则由第p个样本更新p+1个参数因子为：

步骤2.5训练下一个样本，返回步骤2.2，根据更新后的参数因子计算神经网络的输出，与原始数据相比，计算系统误差，若误差值小于设定的误差阈值，判定此时输出结果逼近于原始数据，停止训练，此时隐藏层为系统的一阶特征表示；

步骤3基于隐马尔科夫模型的概率预测：

根据步骤2，从原始数据X^N×m提取出设备的故障序列H^N×r＝[h₁,h₂,...,h_r]，r为数据的特征维度，且r＜m，N为样本数目，m表示每一个样本中包含的数据维数，h表示从每一个样本中提取出的所需数据；

步骤3.1初始条件：

将隐马尔科夫模型记为λ＝(N,M,π,A,B)，

(1)N表示隐马尔科夫模型的隐藏状态数，将设备参数的变化过程作为隐藏状态的随机过程，N＝(N₁,N₂,N₃,...,N_n)，t时刻系统的隐藏状态为q_t，q_t∈N；

(2)M表示系统的观测状态，表示神经网络提取的故障序列，M＝[M₁,M₂,...,M_r]，t时刻系统的观测状态为O_t，O_t∈M；

(3)π表示初始隐藏状态的概率矩阵，π＝(π₁,π₂,...,π_n)，π_i＝P(q₁＝N_i),1≤i≤n；q₁表示系统的初始状态，N_i表示隐马尔可夫模型的第i个隐藏状态，p()表示系统初始状态为第i个隐藏状态的概率；

(4)A为状态转移矩阵，表示设备由当前隐藏状态转移到另一个隐藏状态的概率矩阵，A＝(a_ij)_n×n，n×n表示矩阵维度，其中a_ij表示由状态i转移到状态j的概率，

a_ij＝P(q_t+1＝N_j|q_t＝N_i)1≤i,j≤n；

q_t表示系统t时刻的隐藏状态，q_t+1表示系统t+1时刻的隐藏状态，q_t＝N_i表示系统在t时刻属于第i个隐藏状态，p()表示系统在t时刻从N_i状态向N_j状态转移的概率，n为系统的隐藏状态数。

(5)B为观测值概率矩阵，表示设备的隐藏状态到观测状态的转移概率，B＝(b_jk)_r×n，b_jk表示隐藏状态k到观测状态j的转移概率，记b_jk＝b_j(k)，b_j(k)＝P(O_t＝M_k|q_t＝N_j),1≤j≤n,1≤k≤r，Q_t表示系统t时刻的观测状态，M_k表示系统t时刻属于第k个观测状态，q_t表示系统t时刻的隐藏状态，j为隐藏层状态次序，n为隐藏层总状态数，k为观测状态次序，r为观测层总状态数，p()表示系统t时刻从第j个隐藏状态转至第k个观测状态的概率；

步骤3.2建立故障模型

选取设备不同状态的采集数据，包括设备正常运行状态，无故障情况下设备4种不同程度的磨损退化状态和故障状态，建立隐马尔科夫有模型，利用前向-后向算法对采集到的设备状态数据进行模型训练，确定设备隐藏状态的状态转移矩阵，计算步骤如下：

(1)对隐马尔可夫模型矩阵初始化：π＝(π₁,π₂,...,π_n)，A＝(a_ij)_n×n，B＝(b_jk)_r×n；

(2)从样本数据中取T组测量数据作为模型的观测状态序列；

(3)根据小波神经网络的计算结果将数据映射至神经网络的隐藏层，数据降维，输出观测序列O＝[O₁,O₂,...O_T]；

(4)定义前向概率a_t(i)，表示t时刻(t＜T)隐藏状态为N_i，观测序列为[O₁,O₂,...O_t]的概率：

a₁(i)＝π_ib_i(O₁) (16)

其中，a₁(i)表示系统初始时刻第i个隐藏状态的前向概率；π_i表示第初始概率矩阵i个隐藏状态的初始概率矩阵；b_i(O₁)表示系统初始时刻在隐藏状态为N_i观测到O₁的概率；N_j表示系统第j个隐藏状态；λ表示隐马尔可夫模型；a_t(j)a_ji表示时刻t隐藏状态为N_j，观测序列为[O₁,O₂,...O_t]，时刻t+1隐藏状态为N_i的概率；b_i(O_t+1)表示隐藏状态为N_i观测到O_t+1的概率；p()表示在t+1时刻观测序列为[O₁,O₂,...O_t,O_t+1]，隐藏状态为N_i的概率；

(5)定义后向概率β_t(i)，表示t时刻(t＜T)隐藏状态为N_i，t+1时刻至T时刻观测序列为[O_t+1,O_t+2,...O_T]的概率：

β_T(i)＝1 (18)

其中，q_t＝N_i表示t时刻隐藏状态为N_i；λ表示隐马尔可夫模型；β_t+1(j)表示t+1时刻隐藏状态为N_j的后向概率；a_ij表示由状态i转移到状态j的概率；a_ijβ_t+1(j)表示t+1时刻隐藏状态为N_j，t时刻隐藏状态为N_i的概率；a_ijb_j(O_t+1)β_t+1(j)表示观测序列为[O_t+1,O_t+2,...O_T]，t+1时刻隐藏状态为N_j，t时刻隐藏状态为N_i的概率；p()表示t时刻隐藏层状态为N_i的概率；

(6)由公式(17)和(19)计算当前观察序列的前向概率和后向概率之和

a_t(i)表示t时刻隐藏层为N_i的前向概率，β_t(i)表示t时刻隐藏层为N_i的后向概率，n为隐藏层状态数；给定观测序列O＝[O₁,O₂,...O_t]，在时刻t设备处于状态N_i的概率γ_t(i)为：

a_t(i)表示t时刻隐藏层为N_i的前向概率，β_t(i)表示t时刻隐藏层为N_i的后向概率，n为隐藏层状态数；

(7)给定观测序列O＝[O₁,O₂,...O_t,O_t+1]，在时刻t+1设备由状态N_i转移到状态N_j的概率

a_t(i)表示t时刻隐藏层为N_i的前向概率，β_t+1(j)表示t+1时刻隐藏层为N_j的后向概率，n为隐藏层状态数，a_ij表示由状态i转移到状态j的概率，b_j(O_t+1)表示t时刻隐藏层状态为N_j，t+1时刻观测到O_t+1的概率；

(8)若P(O|λ)不收敛，返回步骤(2)，否则计算隐马尔科夫模型参数：

假设P(O|λ)收敛时用于计算的样本数为D，则：

π_i表示状态为i的概率，为每一个样本求得概率的平均值；表示初始时刻第d样本状态为N_i的概率；

表示t时刻，第d个样本，由状态N_i转移到状态N_j的概率，T为采集的时刻数，D为样本数；a_ij表示最终由状态N_i转移到状态N_j的概率；表示t时刻第d个样本状态为N_i的概率；

b_j(k)表示隐藏状态k到观测状态j的转移概率；

(9)训练结束，输出最终隐马尔科夫模型λ＝(N,M,π,A,B)；

步骤3.3故障预测

在对设备进行故障预测时，输出历史观察序列O＝[O₁,O₂,...O_T]，根据训练的隐马尔科夫模型，计算其所处的最大可能的退化状态，步骤如下：

(1)状态初始化：

δ₁(i)＝π_ib_i(O₁),i＝1,2,...,n (26)

n为隐藏层的状态数目，π_i表示初始时刻状态N_i的概率，b_i(O₁)表示初始时刻观测为O₁，状态为N_i的概率，δ₁(i)表示初始时刻观测到O₁系统处于N_i的状态；

表示初始化系统的可能状态，全置为0；

(2)递推时刻t的状态：

δ_t(i)＝max(δ_t-1(1),δ_t-1(2),...,δ_t-1(n))·b_i(O_t) (28)

max(δ_t-1(1),δ_t-1(2),...,δ_t-1(n))表示t-1时刻系统n个状态中处于的最大可能状态；b_i(O_t)表示观测到O_t，系统处于状态N_i的概率；δ_t(i)表示t时刻观测序列为O＝[O₁,O₂,...O_t]时系统处于状态N_i的概率；

a_nk表示t-1时刻系统处于状态N_n，t时刻处于状态N_k的概率；表示t时刻系统处于状态k的最大可能概率；

(3)时刻最大值表示设备的最大可能状态，及设备的退化状态。