[发明专利]一种基于深度学习构建多任务计算机视觉应用服务的方法

说明书

本发明公开了一种基于深度学习构建多任务计算机视觉应用服务的方法，属于人工智能技术领域。本发明的基于深度学习构建多任务计算机视觉应用服务的方法包括以下步骤：S1、定义应用服务的数据输入数据源格式；S2、定义GPU资源调度规则，实现按需自动分配GPU资源；S3、定义服务内部总线；S4、定义模型编排流水线；S5、应用服务的容器化部署和运维。该发明的基于深度学习构建多任务计算机视觉应用服务的方法能够降低深度学习的实现难度，提升开发效率，同时减少开发成本，具有很好的推广应用价值。

技术领域

本发明涉及人工智能技术领域，具体提供一种基于深度学习构建多任务计算机视觉应用服务的方法。

背景技术

当前，人工智能发展借助深度学习技术突破得到了全面关注和助力推动，各国政府高度重视，各界对其成为发展热点也达成了共识。深度学习是本轮人工智能爆发的关键技术。人工智能技术在计算机视觉和自然语言处理等领域取得的突破性进展，使得人工智能迎来新一轮爆发式发展。而深度学习是实现这些突破性进展的关键技术。深度学习技术仍不完美，应用门槛高，算法建模及调参过程复杂繁琐、算法设计周期长、系统实施维护困难，服务较难部署等问题。即使对于经验丰富的深度学习从业人员，开始深度学习也可能十分耗时和麻烦。

发明内容

本发明的技术任务是针对上述存在的问题，提供一种能够降低深度学习的实现难度，提升开发效率，同时减少开发成本的基于深度学习构建多任务计算机视觉应用服务的方法。

为实现上述目的，本发明提供了如下技术方案：

一种基于深度学习构建多任务计算机视觉应用服务的方法，包括以下步骤：

S1、定义应用服务的数据输入数据源格式；

S2、定义GPU资源调度规则，实现按需自动分配GPU资源；

S3、定义服务内部总线；

S4、定义模型编排流水线；

S5、应用服务的容器化部署和运维。

所述GPU即Graphics Processing Unit，图形处理器。

作为优选，步骤S1中，将单个图片作为数据输入源，以HTTP+Restful为请求方式同步请求推理结果。

作为优选，步骤S1中，以图片流作为数据输入源，以人物方式下发请求，将推理结果以推理流方式输出，使用Kafka作为流传输介质。

作为优选，步骤S1中，以实时视频流作为数据输入源，以任务方式下发请求，将推理结果以推理流方式输出，使用Kafka作为流传输介质。

可将单个图片、视频文件作为数据源以Http+Restful方式同步请求推理结果，也可支持实时图片流和实时视频流作为数据源以任务方式下发异步请求推理结果，并将推理结果以Kafka方式推出。

作为优选，步骤S2中，支持自定义调度规则，提供多种API接口。可将容器作为封装的、独立部署的组件，利用操作系统级别的虚拟化，以隔离的实例运行在相同的内核之上，能够非常快速的启动所输出的应用实例；本方法也可通过RestfulAPI接口输出模型应用结果。

在深度学习负载下，GPU资源合理分配是非常重要的，该方法提供了针对GPU优化的调度算法规则库，用户可根据模型实际情况选择器调度规则，并且也可以自定义GPU调度规则，可为推理服务作业的运行保驾护航。

作为优选，步骤S3中，内部总线服务基于微服务框架，支持云原生，在内部总线服务传递业务数据、模型数据、控制数据和告警数据，且内部总线服务提供订阅、广播、点对点及点对多的传输方式。