[发明专利]基于长短时记忆神经网络的列控车载设备故障诊断方法

权利要求书

1.一种长短时记忆网络结合神经网络的列控车载设备的故障诊断方法，其特征在于，包括：

利用车载设备的日志文件通过文本数据挖掘处理构建车载设备运行信息语料库，利用车载设备运行信息语料库构建原始样本数据；

构造LSTM网络和BP网络级联的多层网络系统，采用贝叶斯正则化算法从权值优化和结构调整两方面对所述多层网络系统进行优化；

利用训练样本数据来对优化后的所述多层网络系统进行训练，利用训练好的多层网络系统构成列控车载设备的故障诊断模型，利用所述列控车载设备的故障诊断模型对列控车载设备的未知故障样本进行诊断，得到未知故障样本的诊断结果。

2.根据权利要求1所述的方法，其特征在于，所述的利用车载设备的日志文件通过文本数据挖掘处理构建车载设备运行信息语料库，包括：

采集车载设备的日志文件为原始数据，对原始数据进行数据清理，该数据清理过程包括收集原始数据中的AE-log文件、统一原始数据模式、提取原始数据中的关键信息，并将关键信息存入数据库中，利用数据清理后的原始数据构建车载设备运行信息语料库，所述车载设备运行信息语料库包括车载设备的日志文件、正常运行信息以及故障信息；

对车载设备运行信息语料库中的文件进行分词、统计词频、去停用词、标注词性处理，采用Skip-gram模型实现车载设备运行信息语料的向量表达，以词向量的形式表达语义信息。

3.根据权利要求2所述的方法，其特征在于，所述的采用Skip-gram模型实现车载设备运行信息语料的向量表达，以词向量的形式表达语义信息，包括：

扫描车载设备运行信息语料库，统计车载设备运行信息语料库中每个词出现的次数，根据各个词的词频建立Huffman树，每个词都对应一个二进制的编码，该编码表示根节点到该词的路径；

以词向量的形式表达每个词对应的二进制的编码，初始化词向量与Huffman非叶子节点，词向量的维度大小为给定的参数K，每个维度的值随机初始化为0或1，非叶子节点每个维度初始化为0。目标为预测词的二进制编码概率最大；

对Skip-gram模型进行训练：Skip-gram模型逐句读取车载设备运行信息语料库中的词，利用梯度下降法计算出词的梯度，根据词的梯度更新词向量和非叶子节点处向量的词，当遍历完车载设备运行信息语料库中的所有词后，训练终止，得到最终的每个词的词向量结果，以词向量的形式表达语义信息。

4.根据权利要求3所述的方法，其特征在于，所述的利用车载设备运行信息语料库构建原始样本数据，包括：

利用向量表达后的车载设备运行信息语料库构建原始样本数据，将原始样本数据随机划分为3部分，其中70％为训练样本数据，用于调整网络结构参数，减小误差；15％为验证样本数据，用来验证网络的泛化能力，并且在网络泛化能力不再提高时终止网络的训练；其余15％作为测试样本数据，作用是检验网络的性能。

5.根据权利要求4所述的方法，其特征在于，所述的构造LSTM网络和BP网络级联的多层网络系统，采用贝叶斯正则化算法从权值优化和结构调整两方面对所述多层网络系统进行优化，包括：

构造LSTM网络和BP网络级联的三层网络系统，该三层网络系统包括：输入层、隐藏层和输出层，输入层、隐藏层中包括LSTM网络，输出层中包括BP网络；

采用贝叶斯正则化算法从权值优化和结构调整两方面对所述三层网络系统进行优化，优化后的所述三层网络系统的目标误差函数被调整为：

E＝k₁E_D+k₂E_W

式中：

其中，w_i为网络权值，ε是以ε^p为元素的向量，W_k表示第k次迭代的网络权值向量，J为Jacabi矩阵，参数μ的作用是控制步长；

比例系数k₁,k₂通过贝叶斯方法确定，具体公式如下：

式中：γ为神经网络的有效参数个数，γ＝N-2k₂tr(H)^-1；N为神经网络参数总数；H为E的Hessian矩阵，tr(H)表示矩阵H的迹。