[发明专利]支持执行多机器学习模型预测服务的分布式系统及方法

说明书

公开了一种支持执行多机器学习模型预测服务的分布式系统及其操作方法。该系统包括主控模块和多个工作模块，其中，所述主控模块用于：向多个工作模块分别发送针对多个机器学习模型的预测服务执行指令，以及获取所述多个工作模块各自对应的机器学习模型的预测结果；每个工作模块用于：根据接收到的执行指令加载自身对应的至少一个机器学习模型所需的数据，基于所加载的数据构造所述至少一个机器学习模型所需的特征，以及基于构造的特征执行所述至少一个机器学习模型的预测服务以生成预测结果。由此，通过主控模块的集中管理和工作模块的分布式加载，实现多模型的同时分布式上线与运行。上述分布式系统可以用于风力发电系统。

技术领域

本发明涉及分布式领域，尤其涉及一种支持执行多机器学习模型预测服务的分布式系统及其对应实现方法。

背景技术

近年来，随着人工智能(AI)技术的发展，人们越来越多地利用机器学习(MachineLearning)从数据中自动分析获得规律，并利用获得的规律对未知数据进行预测。

对于一套完整的机器学习开发及应用平台，不仅包括数据采集、数据处理、特征工程构建、模型训练等离线调研环节，还需要包括模型上线、A/B测试、灰度发布等线上生产环节。现有的模型上线主要涉及单模型、单组数据执行模型在线服务或者定时多组数据批量执行模型在线服务。对于多个模型同时在线并且多组数据实时批量在线执行模型服务的应用场景，现有技术则缺乏相应的支持。

为此，需要一种能够支持多组机器学习模型在线运行的方案。

发明内容

为了解决如上至少一个问题，本发明提出了一种能够支持多个模型同时在线并且多组数据实时批量在线执行模型服务的分布式架构，其通过主控模块的集中管理和工作模块的分布式加载，实现多模型的同时分布式上线与运行。进一步地，通过例如统一API、共享配置和特征的可扩展性存储，实现了框架各组件之间的松耦合和可配置性。

根据本发明的一个方面，提出了一种支持执行多机器学习模型预测服务的分布式系统，包括主控模块和多个工作模块，其中，所述主控模块用于：向多个工作模块分别发送针对多个机器学习模型的预测服务执行指令，以及获取所述多个工作模块各自对应的机器学习模型的预测结果；每个工作模块用于：根据接收到的执行指令加载自身对应的至少一个机器学习模型所需的数据，基于所加载的数据构造所述至少一个机器学习模型所需的特征，以及基于构造的特征执行所述至少一个机器学习模型的预测服务以生成预测结果。由此，通过主控模块的集中管理和工作模块的分布式加载，实现多模型的同时分布式上线与运行。优选地，特征构造可以是对预定时间范围内的加载数据进行处理，以获取所述至少一个机器学习模型所需的时序特征。

优选地，主控模块可以用于：汇总获取的所述预测结果；以及将汇总的所述预测结果以预定方式输出给用户，或者将汇总的所述预测结果提供给接口服务模块，所述接口服务模块包括在所述系统中并且用于将汇总的所述预测结果以预定方式输出给用户。由此，方便用户以预定方式获取预测结果。例如，接口服务模块可以是用于以统一的界面向用户提供特定格式数据的Web服务器，以方便用户以常规的Web访问形式(例如，经由URI)获取格式统一的预测结果。

优选地，所述分布式系统可以包括共享配置存储模块；所述共享配置存储模块用于：存储配置信息；每个工作模块用于：根据所述配置信息获取自身对应的至少一个机器学习模型的相关数据。由此，通过配置信息的统一存储和共享，能够方便对多个机器模型的增删管理和发放。具体地，共享配置存储模块可以包括用于与具有各类接口的多个机器学习模型对接的接口单元，以方便各类模型的添加。相关数据则可以包括：所述至少一个机器学习模型本身的相关数据以及所述至少一个机器学习模型的输入数据的处理相关数据，由此方便工作模块对机器学习模型的灵活运用。优选地，所述相关数据还可以包括：从所述配置信息获取的、与所述至少一个机器学习模型相对应的自启动数据，由此实现工作模块对其获取的机器学习模型的自举式运行。