[发明专利]承诺感知调度器

说明书

一种系统(100)，该系统包括：一个或多个虚拟机(166)的分布式网络，该一个或多个虚拟机具有专用于用户的承诺虚拟机(168)的第一部分和按需虚拟机(169)的第二部分。该系统还可以包括工作负载调度器(184)，该工作负载调度器被配置成接收与用户相关联的工作负载(232)。调度器可以确定是将给定工作负载调度为由第一部分和第二部分中的虚拟机的组合执行还是由仅包括在第一部分中的虚拟机执行。如果在第一时间的给定工作负载的预期资源消耗水平和虚拟机的第一部分的第一消耗水平之和小于或等于包括在第一部分中的资源的总量，则可以将给定工作负载调度为由仅第一部分中的虚拟机在第一时间执行。

相关申请的交叉引用

本申请要求2019年4月24日提交的美国临时专利申请No.62/837,755的申请日的权益，其公开内容通过引用并入本文。

背景技术

分布式网络向客户提供可扩展的计算资源。客户能够取决于客户的需要而度量在任何给定时间消耗的资源量。附加地，客户可能对计算资源要求承诺，由此客户所要求的资源通常以降低的成本专用于客户。此类承诺允许客户在任何时间使用多达一定量的并发资源，而高于那个量的任何资源使用被以通常诸如按需费率的较高的费率收费。

客户的需要可以包括等待时间敏感的工作负载和等待时间容忍的工作负载两者。在等待时间容忍的工作负载的情况下，如果客户要求的已分配资源已经在使用中并且客户将需要为附加资源的使用付费，则立即启动工作负载可能是不利的。然而，在等待时间敏感的工作负载的情况下，使工作负载延迟可能是不利的。

发明内容

一种分布式系统中的调度器能够针对给定工作负载，确定是将该给定工作负载调度为仅由分布式系统中的专用计算资源执行还是由分布式系统中的专用计算资源和非专用计算资源两者的组合执行。这种确定可以对照用于执行工作负载的时间敏感性来使执行工作负载的成本平衡，因为并非所有资源都可以被同等地评定，并且并非所有工作负载都可以是同等地时间敏感的。例如，专用计算资源可以由用户以打折扣的固定费率提前分配，然而非专用计算资源可以供用户使用以用于根据需要但以不打折扣的、按需费率的分配。附加地，一些工作负载可以是等待时间敏感的并且需要立即或几乎立即注意，然而其他工作负载可以是等待时间容忍的并且可以被延迟达一定时间。基于这些因素调度工作负载可以为用户节省资源和成本。

附图说明

图1是图示根据本公开的各方面的示例系统的框图。

图2是图示根据本公开的各方面的调度器的另一框图。

图3是图示根据本公开的各方面的示例工作负载的图。

图4是图示根据本公开的各方面的示例方法的流程图。

具体实施方式

概述

技术通常涉及一种用于调度等待时间容忍的工作负载的系统。该系统可以包括在调度等待时间容忍的工作负载时考虑专用于用户的已分配资源的调度器或调度程序。该程序还能够考虑已分配资源在当前时间和将来时间两者的消耗状态，诸如在当前时间的消耗状态、在稍后的时间内调度的项目以及预报的消耗状态。

在一些实现方式中，调度程序能够被存储在具有跨一个或多个数据中心的多个虚拟机的分布式网络中。

在一个实现方式中，当调度程序接收到要调度的工作负载项目时，这些项目可以在缓冲器中排队。每个项目可以与特定工作负载相关联。在一些实现方式中，可以按预期为执行工作负载所需要的虚拟机(VM)核的量而测量工作负载的大小。在其他实现方式中，可以按预期为执行工作负载所需要的随机存取存储器的量而测量工作负载的大小。在其他实现方式中，可以考虑核和RAM两者。