[发明专利]一种面向智能制造业的自进化神经网络模型的构建方法

说明书

本发明公开一种面向智能制造业的自进化神经网络模型的构建方法。该方法包括：利用数据维度计算模块调整各种子网络架构的输入层和全连接层之间传递的数据维度，进行网络模型的初步定型；将历史数据并行传送到内部的种子网络架构进行预训练，各种子网络架构同时独立运行，通过预训练，演算出当前各种子网络架构下合适的网络参数，获得对应的局部最优参数集；子进化单元根据对应的局部最优参数集通过网络层数和特征数的增减演算适合的子网络层数和特征数，生成对应的最优子网络模型；对各最优子网络模型正式训练，并根据设定的性能指标排序，得到全局最优网络和权重模型。本发明能够自适应数据维度的变化并且能够自动进化为最合适的网络架构模型。

技术领域

本发明涉及智能制造技术领域，更具体地，涉及一种面向智能制造业的自进化神经网络模型的构建方法。

背景技术

由于计算机硬件的飞速发展，以深度学习为代表的人工智能得到广泛的应用和发展。各行各业都在积极拥抱人工智能算法，但由于各行业的数据类型或者说数据的维度大相径庭，所以在图像处理领域的广泛应用的模型如LeNet，AlexNet和ResNet等并不能很好的发挥作用。例如，当输入数据的维度发生变化的时候，AI工程师需要重新调整神经网络参数包括卷积层间的数据维度、激活函数、损失函数、优化函数和优化步长等，或者用不同的网络架构来分别测试手头的数据，最终通过效果比较来选择适合自己行业和自己手头的数据的网络架构和参数，这种方式费时费力。并且如果数据的维度稍微发生了变化，例如工厂的生产线添加了一台或几台设备，那么原来的网络架构就不再适用，输入层和全连接层需要更改，所采用的网络参数如激活函数、损失函数、优化函数和优化步长等，也要重新选择和调试，所消耗的时间完全依赖于资深专业人士的经验，导致效率低下。

总之，目前单一的一种神经网络模型不适用于不同种类和不同维度的数据，在实际应用中，当数据种类和维度发生变化时，往往需要资深的专业人士重新选择网络架构、更改数据维度和调试神经网络参数，很费时间，从而严重阻碍了人工智能技术在智能制造领域中的应用和发展。

发明内容

本发明的目的是克服上述现有技术的缺陷，提供一种面向智能制造业的自进化神经网络模型的构建方法。

根据本发明的第一方面，提供一种面向智能制造业的自进化神经网络模型的构建方法，该自进化神经网络模型包括数据维度计算模块、多个种子网络架构、多个预训练单元、多个子进化单元，该方法包括以下步骤：

利用数据维度计算模块自动调整各种子网络架构的输入层和全连接层之间传递的数据维度，进行网络模型的初步定型；

将历史数据并行传送到内部的种子网络架构进行预训练，各种子网络架构同时独立运行，通过循环反复预训练，演算出当前各种子网络架构下合适的网络参数，获得对应的局部最优参数集；

子进化单元根据对应的局部最优参数集通过网络层数和特征数的增减演算出适合的子网络层数和特征数，从而生成对应的最优子网络模型；

对各最优子网络模型进行正式训练，并根据设定的性能指标排序，进而得到全局最优网络和权重模型。

根据本发明的第二方面，提供一种生产数据处理方法。该方法包括：对于生产场景的数据，根据数据库中的数据集自动测算数据维度，并以此维度输入上述自进化神经网络模型的构建方法获得的全局最优网络模型，输出数据分类结果或预测结果。