[发明专利]一种基于深度学习构建多任务计算机视觉应用服务的方法

权利要求书

1.一种基于深度学习构建多任务计算机视觉应用服务的方法，其特征在于：包括以下步骤：

S1、定义应用服务的数据输入数据源格式；

S2、定义GPU资源调度规则，实现按需自动分配GPU资源；

S3、定义服务内部总线；

S4、定义模型编排流水线；

S5、应用服务的容器化部署和运维。

2.根据权利要求1所述的基于深度学习构建多任务计算机视觉应用服务的方法，其特征在于：步骤S1中，将单个图片作为数据输入源，以HTTP+Restful为请求方式同步请求推理结果。

3.根据权利要求2所述的基于深度学习构建多任务计算机视觉应用服务的方法，其特征在于：步骤S1中，以图片流作为数据输入源，以人物方式下发请求，将推理结果以推理流方式输出，使用Kafka作为流传输介质。

4.根据权利要求3所述的基于深度学习构建多任务计算机视觉应用服务的方法，其特征在于：步骤S1中，以实时视频流作为数据输入源，以任务方式下发请求，将推理结果以推理流方式输出，使用Kafka作为流传输介质。

5.根据权利要求4所述的基于深度学习构建多任务计算机视觉应用服务的方法，其特征在于：步骤S2中，支持自定义调度规则，提供多种API接口。

6.根据权利要求5所述的基于深度学习构建多任务计算机视觉应用服务的方法，其特征在于：步骤S3中，内部总线服务基于微服务框架，支持云原生，在内部总线服务传递业务数据、模型数据、控制数据和告警数据，且内部总线服务提供订阅、广播、点对点及点对多的传输方式。

7.根据权利要求6所述的基于深度学习构建多任务计算机视觉应用服务的方法，其特征在于：步骤S4中，用户可创建多个插件，并按顺序将其串连起来，构成一个完整的流水线，编排多个模型到一个流水线，一个流水线对应一个模型为主检测模型。

8.根据权利要求7所述的基于深度学习构建多任务计算机视觉应用服务的方法，其特征在于：多个插件组成一个容器，容器管理多个插件，改变容器状态，则容器自动修改所包含的插件的状态。

9.根据权利要求8所述的基于深度学习构建多任务计算机视觉应用服务的方法，其特征在于：步骤S5中，支持容器化部署，提供硬件、服务、作业的多级监控，提供AI任务在线调试、错误报警、日志管理和性能检测。