[发明专利]一种服务运行方法和装置

说明书

本申请实施例提供了一种服务运行方法和装置，包括：获取用户发送的服务配置模板信息；采用所述服务配置模板信息，生成包含预设模型的镜像文件以及运行环境部署文件；采用所述镜像文件以及所述运行环境部署文件，在预设的服务节点运行基于所述预设模型的服务。通过本申请实施例的服务运行方法，采用所述服务配置模板信息，生成镜像文件以及运行环境部署文件，并采用所述镜像文件以及所述运行环境部署文件，在预设的服务节点运行基于预设模型的服务。从而可以采用服务配置模板信息实现基于预设模型的服务的快速部署以及运行，提高了基于预设模型的服务的部署以及运行效率。

技术领域

本申请涉及计算机技术领域，特别是涉及一种服务运行方法和一种服务运行装置。

背景技术

随着技术的发展，基于模型实现的语音识别、人脸检测等服务的需求也逐渐扩大。基于模型的服务可以根据用户实际需要，部署至至少一个服务器处运行。然而，由于基于模型的服务所使用的模型需要更新，不同服务器的运行环境存在区别，基于模型的服务在不同时间的使用量不同，导致实时运行的服务的数量需要调整等原因，用户可能需要频繁地针对多种服务器部署基于模型的服务，导致基于模型的服务的部署以及运行工作繁琐。

申请内容

鉴于上述问题，提出了本申请实施例以便提供一种克服上述问题或者至少部分地解决上述问题的一种服务运行方法和相应的一种服务运行装置。

为了解决上述问题，本申请实施例公开了一种服务运行方法，包括：

获取用户发送的服务配置模板信息；

采用所述服务配置模板信息，生成镜像文件以及运行环境部署文件；

采用所述镜像文件以及所述运行环境部署文件，在预设的服务节点运行基于所述预设模型的服务。

可选地，所述采用所述服务配置模板信息，生成包含预设模型的镜像文件以及运行环境部署文件的步骤，包括：

在所述服务配置模板信息中，提取模型配置信息以及容器部署配置信息；

采用所述模型配置信息，确定所述基于预设模型的服务对应的依赖库；

采用所述依赖库以及所述模型配置信息，生成镜像文件；

采用所述容器部署配置信息，生成适配预设的服务节点的运行环境部署文件。

可选地，所述采用所述依赖库以及所述模型配置信息，生成镜像文件的步骤，包括：

采用所述模型配置信息，确定所述预设模型的模型调用文件；

创建针对所述模型调用文件的调用接口信息；

采用所述依赖库，所述调用接口信息、以及所述模型调用文件，生成镜像文件。

可选地，所述采用所述容器部署配置信息，生成适配预设的服务节点的运行环境部署文件的步骤，包括：

解析所述容器部署配置信息，确定所述基于预设模型的服务对应的运行需求资源信息；

采用所述运行需求资源信息，生成适配预设的服务节点的运行环境部署文件。

可选地，所述服务节点包括边缘服务节点；

所述采用所述镜像文件以及所述运行环境部署文件，在预设的服务节点运行基于所述预设模型的服务的步骤，包括：

采用所述镜像文件以及所述运行环境部署文件，在预设的边缘服务节点运行基于所述预设模型的服务。

本申请实施例还公开了一种服务运行装置，包括：

获取模块，用于获取用户发送的服务配置模板信息；