[发明专利]一种融合注意力机制和自适应构图的宽度学习半监督软测量建模方法

说明书

本发明涉及一种融合注意力机制和自适应构图的宽度学习半监督软测量建模方法，该方法综合利用数据输入空间和预测输出空间的加权欧式距离信息自适应构建近邻图实现对数据潜在结构信息的准确逼近；同时，考虑到不同的辅助变量对主导变量的准确估计具有不同程度的贡献度，通过融入注意力机制对变量进行加权，即对重要的信息增加一定比例的权重，对于无法提升模型性能的一些信息则选择降低权重，以降低冗余变量和噪声对构图和回归学习的不良影响；最后，将注意力机制、自适应构图和宽度学习建模整合在一个统一学习框架内，并采用交替迭代优化求解获得建模学习的整体最优解。因此，本发明提供的半监督学习框架能够充分利用标签数据所包含的监督信息，辅助以无标签数据所蕴含的结构信息，改善宽度学习模型性能，达到提升软测量模型泛化能力和可靠性之目的。

技术领域

本发明属于工业过程检测技术领域，涉及工业过程软测量技术，具体地说，涉及了一种融合注意力机制和自适应构图的宽度学习半监督软测量建模方法。

背景技术

现代工业生产过程正朝着数字化和智能化方向快速发展，与此同时，对产品质量控制的追求也越来越高。为此，实际生产装置通常配备了大量工业传感器，用于实时测量反映过程运行状态的操作参数，为实现产品质量闭环优化控制提供必需的反馈信息。然而，工业过程中总存在一些与产品质量密切相关但又难以实现直接测量的重要参数，如产品浓度、组分和各物性参数等。这些关键的质量相关参数目前只能依靠离线采样后送实验室化验分析得到，具有测量周期长、反馈滞后大和人力物力成本高等问题。因此，过程工况发生变化时，操作人员由于无法及时掌握过程的真实运行状态，很难给出正确的调整对策，致使生产效率降低甚至危及操作安全。软测量技术正是在这样的背景下发展起来的，其通过建立容易测量的过程变量(又称为辅助变量)与难以直接测量的质量相关变量(又称为主导变量)之间的数学模型，实现对关键质量相关参数的间接估计。与实验室化验分析或在线成分仪表相比，具有应用和维护成本低、响应及时等显著优点，因此在炼油、化工、冶金和制药等众多工业领域有着广泛应用。

软测量技术的关键在于建立能够准确描述出辅助变量与主导变量之间潜在函数关系的数学模型。若对生产过程有深刻认识且具备丰富相关领域知识，则可以采用机理建模方法建立软测量模型。然而，现代工业过程的复杂性和不确定性大大限制了机理建模方法的应用范围。因此，基于数据驱动的回归建模方法，由于其不依赖具体领域专业知识，普适性和灵活性更具优势，近几十年来在软测量领域得到了广泛应用。其中代表性技术有主元回归、偏最小二乘、人工神经网络和支持向量机等。特别地，随着大数据时代的到来，基于深度学习的人工神经网络算法，诸如卷积神经网络、循环神经网络和自编码器等，近年来已成为软测量建模领域的研究热点并取得了令人瞩目的一系列成果。

基于数据驱动的软测量建模方法的性能在很大程度上取决于训练数据的数量和质量。具体地说，为获得泛化能力强的软测量模型，需要利用大量覆盖过程主要操作工况的输入-输出数据集进行训练。特别地，对于人工神经网络等结构复杂和可调参数众多的机器学习模型而言更是如此。然而，对于实际软测量建模问题，主导变量(对应着软测量模型的输出变量)的采样速率一般远低于辅助变量(对应着软测量模型的输入变量)的采样频率。这导致实际收集到的训练数据只有一小部分同时具有输入和输出值，而绝大部分数据只有输入值，对应的输出值是缺失的。在机器学习领域，那些输入端和输出端同时有值的数据称为标签数据，而那些只有输入端有值的数据称为无标签数据。目前，基于数据驱动的软测量建模方法多采用监督学习方式，即仅使用标签数据建模而忽视了无标签数据的作用，在标签样本稀缺的情况下，很容易出现模型过拟合现象，模型的泛化能力和可靠性均得不到保证，不能满足实际应用的需要。实际上，无标签数据蕴含了丰富的数据结构信息，一系列研究表明，合理利用无标签数据所蕴含的信息能够显著提升回归模型的性能。因此，采用半监督学习方式，即同时利用少量的标签数据和大量的无标签数据，建立软测量数学模型受到越来越多的重视。