[发明专利]实现计算资源服务化的调度方法、装置、介质、设备及系统

说明书

本发明涉及一种实现计算资源服务化的调度方法，包括：利用闲置物理机来申请CPU受限虚拟机，构建计算资源池；接收到任务请求时，使用容器镜像打包封装用户程序代码以及代码所依赖的运行环境和相关库；根据资源池中每个虚拟机的负载情况和任务繁忙程度来调度任务请求；根据实时并发调用量自动增加、减少容器的数量。与现有技术相比，本发明充分利用闲置资源，并通过容器的按需调度和自动伸缩，实现了计算资源服务化。此外，本发明还涉及一种实现计算资源服务化的调度装置、介质、设备及系统。

技术领域

本发明涉及一种实现计算资源服务化的调度方法、装置、介质、设备及系统。

背景技术

互联网产品运营生命周期中，既需要申请计算资源以应对业务增长，也需要释放计算资源以避免业务低谷期的闲置浪费。传统上，运维人员需要订购物理服务器，选择机房安置机架，调试硬件，然后部署服务端软件程序，最后产品才能如期上线。这种人工运维方式效率低下，重复劳动多，每个环节流程繁琐，产品上线和迭代缓慢。此外，由于物理计算资源通常并不能被充分利用，大量服务器在业务低谷期负载极低，资源严重浪费。

虚拟化技术的成熟和IAAS(Infrastructure as a Service，基础设施即服务)云平台的兴起让运维人员不再需要关注物理设备的采购和上架，通过在线操作控制台即可进行资源的按需申请和随时释放。而随着Serverless(无服务器)的概念的兴起和计算资源服务化的实践成熟，以AWS Lambda为代表的Serverless产品，让开发者只需要关注业务逻辑的代码实现，无需关心资源的扩容，缩容，并且真正实现按代码运行时间付费，杜绝资源浪费。

然而，IAAS平台虽然让运维人员从采购安装上架物理设备等繁琐劳动中解放出来，但开发者依然需要为虚拟机安装操作系统和各种软件，运维人员需要手动关注计算，网络，存储资源的扩容和缩容。此外，虚拟机依然存在低负载资源浪费的情况。同时，AWSLambda的使用场景存在严重的局限性，例如，仅支持部分语言编写的代码；任务运行最大时间仅为5分钟，无法支持长时间离线任务程序；不支持持久化服务任务，每个请求都需要创建容器，难以做到低延迟(10ms内)响应等。其他业内类似的产品如阿里云函数计算和腾讯云函数同样存在上述问题。

发明内容

本发明的目的在于通过使用虚拟化和容器技术，实现计算资源服务化。

本发明的第一方面提供了一种实现计算资源服务化的调度方法，包括：

利用闲置物理机来申请CPU受限虚拟机，构建计算资源池；

接收到任务请求时，使用容器镜像打包封装用户程序代码以及代码所依赖的运行环境和相关库；

根据资源池中每个虚拟机的负载情况和任务繁忙程度来调度任务请求；

根据实时并发调用量自动增加、减少容器的数量。

与现有技术相比，本发明充分利用闲置资源，并通过容器的按需调度和自动伸缩，实现了计算资源服务化。

进一步地，在首次收到镜像的任务请求时选择多个虚拟机预下载容器镜像，并将后续请求优先调度到已存储该容器镜像的虚拟机中，随着镜像容器的调用量的增大，增加预下载容器镜像的虚拟机数量，以提高后续请求的响应速度。

进一步地，还包括将常见的通用算法模板封装成常驻服务，并在计算资源池中预先拉起常驻服务容器的步骤。从而避免为每个算法请求创建容器，减少用户调用耗时和系统的资源消耗，满足用户的低延迟场景。

进一步地，该方法还包括在容器结束销毁前，统计每个任务容器运行所占用CPU核时的步骤。最精细粒度的按需收费

进一步地，每个任务由两个不同的虚拟机同时运行，从而大幅降低节点宕机导致的任务失败的概率。