[发明专利]一种小样本条件下融合先验知识的LSTM神经网络预测方法

说明书

本发明公开了一种小样本条件下融合先验知识的LSTM神经网络预测方法。本发明采用将先验知识融入到LSTM神经网络的训练过程中，通过增加惩罚函数项将约束优化问题转化为无约束优化问题，以数学表达形式加入到LSTM神经网络的目标函数中，实现了准确的评估建模，提高了小样本情况下的建模精度。由于该神经网络通过设计各种“门”结构进行模型训练，因此相比较于传统神经网络不存在梯度消失和梯度爆炸问题。本发明特别适用于小样本条件下长短期记忆神经网络对锂电池剩余寿命进行预测和数据分析。经实验验证，该方法可以有效解决小样本建模精度的问题，在锂电池数据集样本中，平均准确率可达到97.52％以上。

技术领域

本发明涉及健康管理与故障诊断技术领域，具体涉及一种小样本条件下融合先验知识的LSTM神经网络预测方法。

背景技术

锂电池应用于众多领域，对锂电池进行剩余寿命预测是至关重要的。但是锂电池老化失效数据获取周期长，时间代价大，需要耗费大量的人力物力，导致数据量较少，在小样本条件下建模困难并且模型易过拟合或欠拟合。

目前解决该问题的方法主要包括数据扩充和融合先验知识。然而数据扩充法弊端在于扩充的数据质量并不高，导致建立的预测模型精度较差。而融合先验知识的方法能够有利于从数据中快速、准确和有针对性地挖掘出有效的、潜在有用的信息和知识，但是现有融合先验知识后的算法会导致网络模型过大，计算速度慢并且模型精度较低。

锂电池的循环寿命随着时间的增长而逐渐缩短，故锂电池的老化数据是时间序列的，传统神经网络对于时间序列的处理并无优势，导致其在预测时序数据时学习效果并不佳。因此现有技术存在如下问题：1.扩充数据法扩充后的数据质量并不高，无法进行准确的评估建模，2.传统神经网络存在梯度消失和梯度爆炸的问题，3.现有融合先验知识的算法存在预测精度低等问题。

发明内容

本发明提供了一种小样本条件下融合先验知识的LSTM神经网络预测方法，以克服现有技术存在的无法进行准确的评估建模、存在梯度消失和梯度爆炸和预测精度低的问题。

为达到本发明的目的，本发明提供的技术方案如下：一种小样本条件下融合先验知识的LSTM神经网络预测方法，包括以下步骤

步骤1、约束优化基本形式：

约束优化问题的基本形式如下：

min f(X)

s.t. g_i(X)≤0 i＝1,2...q (1)

h_i(X)＝0 i＝q+1,...m

上式中，X为决策变量，f(x)是目标函数；q表示不等式约束的个数，g_i(x)≤0表示第i个不等式约束条件，h_i(X)＝0(i＝q+1,...m)表示等式约束条件，(m-q)表示等式约束的个数；

步骤2、LSTM反向传播：

所基于的损失函数的表达式为：

步骤3、融合先验知识的LSTM参数更新：

将输入x_t与输出L呈单调递增的约束条件进行数学推导，得：

上述步骤2中，包括以下两个步骤：

步骤2.1通过梯度下降法迭代更新所有的参数，计算所有参数基于损失函数的偏导数，如公式(4)～(8)所示。

步骤2.2根据LSTM的反向传播算法，进行每个结构参数的更新。