[发明专利]深度学习框架设计方法

说明书

本申请公开了一种深度学习框架设计方法以及系统，该方法包括：用户通过展现层输入训练参数，AI业务层根据输入训练参数和第一推荐模型优化训练参数并且提交训练任务到K8s调度层；K8s调度层基于优化后的训练参数和第二推荐模型生成和优化K8s资源文件，并且，根据优化后的K8s资源文件提交资源请求、启动容器、运行训练任务；通过K8s调度层动态调整容器负载，收集容器运行日志来建立第二推荐模型用以优化后续的K8s资源文件；通过K8s调度层收集训练任务的训练数据建立第一推荐模型用以优化后续的训练参数。本申请的目的至少在于，能够支持容器资源弹性分配和训练结果优化的深度学习。

技术领域

本申请涉及容器调度管理技术领域，具体来说，涉及一种基于Kubernetes弹性容器调度算法的深度学习框架设计方法。

背景技术

随着科技地迅猛发展，传统开发环境中数据专家必须与软件开发人员合作开发AI(Artificial Intelligence，人工智能，它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学)解决方案的模型已被颠覆。AI算法和模型组成的生态演进，让应用软件开发变成一种预定义模型。未来将有越来越多的专业开发人员，会使用将AI功能和模型集成到解决方案中的定制化开发工具，自主进行AI软件开发。容器化正是整个解决方案的核心。

近些年容器崛起，作为容器管理的工具，Kubernetes(Kubernetes是Google开源的容器集群管理系统，其提供应用部署、维护、扩展机制等功能，利用Kubernetes能方便地管理跨机器运行容器化的应用，主要实现语言为Go语言，Kubernetes缩写为K8s)快速扩张到整个世界。K8s作为最主流容器管理平台已成业界共识。它满足了应用在生产环境中的一些通用需求，提供了平台即服务(PaaS)的应用交付运维简易性以及基础设施即服务(IaaS)的灵活性，提升了跨基础设施移植的方便性。

一场以Kubernetes为基础，AI驱动的开发变革拉开序幕，K8s作为AI训练的解决方案，主要有以下两个优势：

K8s支持GPU(Graphics Processing Unit，图形处理器，又称显示核心、视觉处理器、显示芯片，是一种专门在个人电脑、工作站、游戏机和一些移动设备(如平板电脑、智能手机等)上图像运算工作的微处理器)调度，可以将整个实践过程当中取得的成果回馈到社区；

K8s支持多种调度方式，适应不同的业务场景，Job(Job在Kubernetes中负责批量处理短暂的一次性任务，short lived one-off tasks，即仅执行一次的任务，它保证批处理任务的一个或多个Pod成功结束，在Kubernetes中，最小的管理元素不是一个个独立的容器，而是Pod，Pod是最小的，管理，创建，计划的最小单元)与训练任务两者切合度非常高。

现有技术存在的问题：

AI训练需要静态分配Kubernetes资源的数量，资源的分配依赖个人经验，执行训练任务时存在资源浪费或者资源不足的情况，影响训练的执行效率；

基于Kubernetes的容器调度策略是静态的，未通过资源使用情况动态调整调度策略；

训练任务的执行是单向的，没有通过训练任务的结果迭代优化训练任务。

发明内容

针对相关技术中的上述问题，本申请提出一种基于Kubernetes弹性容器调度算法的深度学习框架设计方法，至少能够支持容器资源弹性分配和训练结果优化的深度学习。

本申请的技术方案是这样实现的：

提供了一种基于Kubernetes弹性容器调度算法的深度学习框架设计方法，包括：

用户通过展现层输入训练参数，AI业务层根据输入训练参数和第一推荐模型优化训练参数并且提交训练任务到K8s调度层；