[发明专利]适用于人工智能中台的系统和方法、可读介质

权利要求书

1.一种适用于人工智能中台的系统，其特征在于，包括：

模型引擎模块：模型引擎管理模型任务，并对接异构计算资源的容器集群；

模型工厂模块：提供模型开发流水线，流水线用于指引模型开发者准备模型训练与推理所需的内容，并向模型引擎模块申请执行任务；

模型市场模块：与对接中台的AIBox模块协作，形成云边协同方案，帮助模型开发者在市场上线已研发完成的模型，对训练完成后的模型发布至模型市场模块进行共享和展示，或是选购他人研发模型。

2.根据权利要求1所述的适用于人工智能中台的系统，其特征在于，所述模型引擎模块包括任务类型、所需算力资源、任务依赖镜像和任务特定参数信息。

3.根据权利要求2所述的适用于人工智能中台的系统，其特征在于，所述模型引擎模块通过调度机制在集群节点中选择有可用算力的主机节点，拉取任务所需镜像包并在节点上部署应用，允许模型开发者所需的模型训练和推理任务，并根据规则将磁盘挂载进入训练任务中，将任务生产的训练结果和运行日志信息进行持久化存储。

4.根据权利要求1所述的适用于人工智能中台的系统，其特征在于，所述模型引擎模块对接的容器集群能将主机节点端口与容器应用端口进行映射，允许用户从外部进行访问，用以查看训练任务接口或是调用推理任务进行场景识别和预测。

5.根据权利要求1所述的适用于人工智能中台的系统，其特征在于，所述模型工厂模块中在模型开发流水线上先要求模型开发者上传模型所需数据集，并根据数据类型进行标注，标注部分基于数据集类型，根据不同模型场景支持多种标注方式。

6.根据权利要求1所述的适用于人工智能中台的系统，其特征在于，所述模型工厂模块中会选择模型训练所需算法，从平台预置算法中根据所需识别场景选择，或自行上传模型训练或推理用代码至平台代码库中，制作成镜像；

开发者根据代码库地址上传自己模型源码，并根据代码所需环境编制镜像脚本，用于模型引擎建立任务，利用中台资源在云上部署模型推理服务，使模型可针对所需场景进行内容识别。

7.根据权利要求1所述的适用于人工智能中台的系统，其特征在于，所述模型市场模块展示人工智能中台上所有开发者完成研发、申请共享并通过审核的模型，所述模型市场模块引导模型开发者发布模型，开发者从已研发模型中选择模型申请共享展示。

8.根据权利要求1所述的适用于人工智能中台的系统，其特征在于，所述AI Box管理模块中对与人工智能中台关联的边缘端推理产品AI Box进行管控，开发者购入AI Box并在中台进行注册，收集AI Box信息与中台租户进行绑定，人工智能中台基于AI Box信息生成许可证文件，并将许可证发放至AI Box设备中。

9.一种适用于人工智能中台的方法，其特征在于，采用权利要求1-8中任一项所述的适用于人工智能中台的系统进行设计，包括如下步骤：

步骤S1：模型引擎管理模型任务，并对接异构计算资源的容器集群；

步骤S2：提供模型开发流水线，流水线用于指引模型开发者准备模型训练与推理所需的内容，并向模型引擎模块申请执行任务；

步骤S3：帮助模型开发者上线已研发完成的模型，对训练完成后的模型发布至模型市场模块进行共享和展示。

10.一种存储有计算机程序的计算机可读存储介质，其特征在于，所述计算机程序被处理器执行时实现权利要求9所述的适用于人工智能中台的设计方法步骤。