[发明专利]一种基于数据驱动的深度神经网络大时滞系统动态建模方法

说明书

本发明公开了一种基于数据驱动的深度神经网络大时滞系统动态建模方法，其中主要涉及数据预处理方法与新型深度神经网络建模技术。本发明针对在成型控制和工业制造中常见的大时滞系统中出现的建模难度大、强耦合、多干扰等问题，公开了一种基于深度神经网络的大时滞系统建模方法。在数据预处理过程中考虑了系统响应大时滞特性，并对深度神经网络算法权值更新精度差、速度慢的缺点进行优化，增强了其泛化能力。本发明能有效地解决大时滞系统机理模型难以建立的问题，所得到的深度网络模型也具有很好的泛化性能。

技术领域

本发明属于非线性系统建模技术领域，更为具体地讲，涉及一种基于数据驱动的深度神经网络大时滞系统动态建模方法。

背景技术

非线性大时滞系统普遍存在于现在的大多数许多工业过程中。由于该系统时延时间长，输入输出多，易受干扰影响，内部结构复杂难以分析等特点，对大时滞系统的的建模辨识与控制问题受到了广泛的关注。

对系统建模方法的选择直接影响到系统建模的准确性与可靠性。如今，已有很多非线性建模方法如最小二乘估计，局部动态线性化等已被广泛应用于各种工业场合。随着机器学习的发展，诸如支持向量机，核心向量机等机器学习方法也被应用于非线性系统建模。随着神经网络理论的发展，深度神经网络因其具有深度挖掘数据特征的能力，解耦性能好，泛化能力强等特点，逐渐在非线性复杂系统建模场合崭露头角。然而，神经网络在权值寻优过程中容易遇到权值更新慢、效率低的问题，因此选择合适的寻优算法对神经网络的训练具有重要意义。

而针对系统大时滞特点，对输入数据预处理就显得十分关键。在原始数据中如何选择合适的变量子集作为回归建模的输入非常重要，变量选择的算法也十分繁杂。为高效选择最优数据子集，有学者提出了如序列前向搜索、序列后向搜索、逐步回归法等贪婪搜索策略。但上述方法计算量很大，并易使建模产生过拟合风险。其他选择方法诸如决策树、压缩系数法等嵌入式选择方法则在变量选择与训练模型同时进行，而基于相关系数、欧氏距离、贝叶斯信息准则等过滤式选择方法则独立于模型训练过程。数据预处理、变量选择是建模过程中必不可少的关键环节，因此需要选择合适的选择方法以便后续工作能顺利进行。

发明内容

本发明的目的在于克服现有技术的不足，提供一种基于数据驱动的深度神经网络大时滞系统动态建模方法，以解决神经网络在权值寻优过程中容易遇到权值更新慢、效率低的问题。

为实现上述目的，本发明基于数据驱动的深度神经网络大时滞系统动态建模方法，其特征在于，包括如下步骤：

步骤1：通过机理分析进行多输入数据进行相关变量分析，排除不相关输入；

步骤2：通过相关系数分析与时滞相关数据特征，将处理后的特征作为神经网络输入；

步骤3：对动态深度神经网络权重进行更新；

步骤4：将处理好的数据集带入深度神经网络训练，得到该系统模型；

所述基于数据驱动的深度神经网络大时滞系统动态建模方法，其特征在于：将系统的较多输入先按照机理分类，再采取包括但不限于采用弹性约束估计，岭估计及自适应绝对约束估计(LASSO)算法等筛选最优子集，以确定基础数据集；

所述基于数据驱动的深度神经网络大时滞系统动态建模方法，其特征在于：将筛选完的数据进行相关性分析，包括但不限于Pearson系数、Spearman系数、Kendall系数等相关系数算法，再根据设定好的相关性阈值筛选数据集作为深度神经网络的输入；

所述基于数据驱动的深度神经网络大时滞系统动态建模方法，其特征在于：在深度神经网络训练中使用动态进化算法对误差函数进行寻优，进而更新神经网络前向传播的权重值；

所述基于数据驱动的深度神经网络大时滞系统动态建模方法，其特征在于：将时滞相关性分析后筛选出的数据集作为训练集，对上步所述深度神经网络进行训练，以得到该系统的深度神经网络模型。