[发明专利]一种基于长短周期记忆网络的寿命预测模型迁移方法

说明书

本发明提出了一种基于长短周期记忆网络的寿命预测模型迁移方法，利用理想条件下的试验数据对模型进行训练，在迁移过程中，冻结部分LSTM网络层，利用实际服役环境下的数据对网络其他部分进行优化确定，采用灰狼算法搜寻最优超参数，确定LSTM结构层数与冻结层数，使目标域数据预测精度趋于最优。

技术领域

本发明涉及一种基于长短周期记忆网络的寿命预测模型迁移技术，属于适用于特定功能的数字计算设备或数据处理设备或数据处理方法的技术领域。

背景技术

迁移学习是解决模型领域泛化的一种途径，众多数据迁移、特征迁移、模型迁移等方法针对不同情况下的迁移取得了一定成果，但是，对于寿命预测的模型泛化而言，由于装备时间序列退化数据存在连续性、缓慢变化的特点，难以有效进行模型迁移。

发明内容

本发明提供了一种基于长短周期记忆网络的寿命预测模型迁移方法，解决如何开展寿命预测模型迁移泛化制约预测模型应用的技术难题。

为实现上述目的，本发明提供如下技术方案：

一种基于长短周期记忆网络的寿命预测模型迁移方法，包括以下步骤：

步骤I、利用灰狼算法确定网络最优超参数（LSTM网络层数和冻结网络层数）；

步骤II、a、灰狼群结构划分，将灰狼群的狩猎空间设为一个的欧式空间，其中为灰狼的数量，为猎物的数量，则每一匹狼的位置表示，依据每一匹灰狼的位置信息评价该灰狼与猎物的远近，评选出位置最优的三匹狼分别为狼、狼、狼，其余狼为狼；

b、搜索猎物，灰狼群的搜索活动由狼、狼、狼指引完成，在三匹狼的号召下，对猎物进行搜寻，搜寻模型如公式1～4所示；其中，随着迭代次数的增加从2线性递减到0；、在每次迭代过程中在（0，1）之间随机取值；公式中的·表示矩阵的哈达玛（Hadamard）积；

c、灰狼算法的两个待寻优参数是LSTM网络总层数与冻结层数，即每匹狼的位置是一个二维的坐标，第一维代表网络层数、第二维代表冻结层数，按照搜寻模型进行搜索，在每次搜索后，进行一次灰狼群结构的重新划分，通过评价指标判断距离猎物最近的三匹狼自动转化为狼、狼、狼，并组织下一轮搜索；

d、为了防止产生局部最优解，当没有确定网络层数与冻结层数的最优值范围时，灰狼群中，部分灰狼群向狼、狼、狼方向靠拢，另一部分灰狼群向相反方向运动，对于寻优而言，这样的搜索方式能够克服局部最优值的影响，随着搜索迭代次数的不断增加，这时灰狼群基本已经掌握网络层数与冻结层数的最优值范围，灰狼群整体逐渐趋于收缩，开始发动包围和猛攻；

e、、随机值的选取，使得模型符合大自然环境下灰狼群信息传递的失真以及灰狼游走的随机性，对于模型而言，能够有效避免陷入局部最优值；

f、通过多次的搜索行为后，狼群逐渐逼近猎物，从概率上而言，狼是最接近于猎物的狼，因此，从概率的角度判断，此时狼的位置坐标就是网络层数与冻结层数数值，可以选作网络构建的超参数；

步骤III、当网络层数与冻结层数数值确定后，利用源域的数据将部分LSTM网络参数进行固定，不再更改，目标域的数据通过网络训练对另外一部分可以更改的网络参数进行优化确定；

目标域的数据通过网络训练对另外一部分可以更改的网络参数进行调整，使网络更加适应目标域的输入输出映射关系；

LSTM神经网络结构的输入输出如图2示，X1，X2，…，Xn表示时间长度为n的序列输入，Y1,Y2，…，Yn为对应的输出，CELL代表的是单元网络随时间的展开；

LSTM每一个含有三个门，分别为遗忘门、输入门、输出门；每个时间点的会接收上一个时间点处理后并传入的两路信号：与；当某个时间点对应的向量输入至LSTM的网络中，将与向量合并作为4个带激活函数的全连接网络的输入，并形成4个输出向量、、、，其中与通过遗忘门相乘，、通过输入门相乘，遗忘门与输入门的相加的结果有两个走向，一是作为直接成为下一个时间点的输入，二是通过激活函数后与在输出层相乘，得到的结果作为这一时间点的输出，并作为下一个时间点的；

步骤IV、利用优化更新后的模型预测设备寿命。