[发明专利]一种人工智能模型在线训练方法及系统

说明书

本发明公开了一种人工智能模型在线训练系统，包括：推理系统，属于AI模型应用的业务系统，负责模型的编排及推理运行，包括AI编排器、服务级AI引擎及服务级AI数据池；终端，属于推理系统管理以及协同的对象，同时与网管协同进行智能化的网络运维，包括终端级AI引擎及终端级AI数据池；训练预发系统，负责模型的开发、训练以及模型验证预发，包括预发环境、AI模型开发及平台级AI数据池。本发明通过构建一种人工智能模型在线训练方法及系统，使得人工智能模型在训练时可以准确的度量真实的准确率和安全性，同时在推理时通过在线训练机制持续保持模型的准确率降低升级模型成本。本发明还提供了相应的人工智能模型在线训练方法。

技术领域

本发明属于人工智能技术领域，更具体地，涉及一种人工智能模型在线训练方法及系统。

背景技术

人工智能模型从应用上看，主要分为训练和推理两大阶段。在训练阶段使用特定场景下大量已发生的历史数据对模型进行调优、训练得到符合预期的预训练模型。在生产环境中推理阶段向预训练模型输入实时发生的数据得到模型的推理结果。但从实际应用来看，特定场景下的情景、数据也是时刻变化的，基于历史结构和数据的预训练模型也存在“保鲜期”的问题，如果模型长久不更新推理准确率势必越来越差。例如人脸识别模型，随着人年龄的增长，脸型特征也会逐渐发生变化，如果模型长久不更新则准确率会越来越低，最终可能达不到使用要求。同时，对于电信、金融等领域更会带来未验证的安全性等问题。

数字孪生技术的出现，为AI(Artificial Intelligence，人工智能)模型真实准确率和安全性等问题的度量提供了一种良好的解决手段。数字孪生是充分利用物理模型、传感器更新、运行历史等数据，集成多学科、多物理量、多尺度、多概率的仿真过程，在虚拟空间中完成映射，从而反映相对应的实体装备的全生命周期过程。数字孪生环境下可以产生现实由于伦理、成本、安全等因素限制难以观测到的数据。因此，在数字孪生环境中对AI预训练模型进行推理验证，就可以得到与真实场景下完全一致，甚至更加优异的模型。

保持模型持续准确率，有效提升模型真实准确率及安全性是本领域人员亟需解决的技术问题。

发明内容

针对现有技术的以上缺陷或改进需求，本发明提供了一种人工智能模型在线训练方法及系统，解决人工智能领域模型在训练、推理过程中的推理持续准确率，训练真实准确率和安全性等问题。

为实现上述目的，按照本发明的一个方面，提供了一种人工智能模型在线训练系统，包括推理系统、终端及训练预发系统，其中：

所述推理系统，属于AI模型应用的业务系统，负责模型的编排及推理运行，包括AI编排器、服务级AI引擎及服务级AI数据池；

所述终端，属于推理系统管理以及协同的对象，同时与网管协同进行智能化的网络运维，包括终端级AI引擎及终端级AI数据池；

所述训练预发系统，负责模型的开发、训练以及模型验证预发，包括预发环境、AI模型开发及平台级AI数据池。

本发明的一个实施例中，所述AI编排器，用于管理AI模型的采集策略和应用策略，并且编排AI应用实例的处理流程，每类AI应用有专门的策略来定义其应该收集的数据、所选择的模型以及AI引擎推理结果的应用策略。

本发明的一个实施例中，所述服务级AI引擎和终端级AI引擎，用于进行AI模型管理，提供AI应用的推理服务，针对特定的AI应用完成数据处理、推理、在线训练、模型评估以及模型发布的过程；服务级AI引擎在推理系统层面部署，终端级AI引擎在终端层面部署，推理系统中的服务级AI引擎从终端以及推理系统中进行AI应用所需数据的处理，终端上的终端级AI引擎基于终端上的管理信息库处理数据。