[发明专利]高可用性的多单租户服务

说明书

维护服务实例(362)在分布式系统(200)上的可用性的方法(400)包括执行主虚拟机(VM)实例(350P)的池，每个主VM实例执行相应的单个服务实例并且包括不可用率。该方法还包括基于主VM实例的池中的主VM实例的数量和不可用率来确定用于当一个或多个主VM实例不可用时维持单个服务实例的可用性所需的辅VM实例(350S)的数量。该方法还包括基于用于维持单个服务实例的可用性所需的辅VM实例的数量来实例化辅VM实例的池。

技术领域

本公开涉及具有高可用性的多单租户服务。

背景技术

多单租户(MST)服务在虚拟机上执行软件/服务实例。在单租户中，每个实例都在单独的虚拟机上执行。当虚拟机发生故障，或在一段时间内无法用于更新或维护时，在该虚拟机上执行的服务可能会转移到辅虚拟机并且在辅虚拟机上执行。当计算环境中缺少容量时，在生成辅虚拟机时可能会出现延迟。结果，已知为每个主虚拟机分配一个辅虚拟机，使得MST服务可以响应性地故障转移到辅虚拟机而不会延迟执行与由于故障、维护/更新或其他原因而变得不可用的主虚拟机相关联的软件实例。但是，使用大量虚拟机的MST服务利用大量资源来分配和维护通常大部分时间闲置的相应虚拟机的可用性。

发明内容

本公开的一个方面提供了一种维护服务实例在分布式系统上的可用性的方法。该方法包括通过分布式系统的数据处理硬件执行主虚拟机(VM)实例的池，每个主VM实例执行相应的单个服务实例并且包括不可用率。该方法还包括，由数据处理硬件基于主VM实例的池中的主VM实例的数量和不可用率确定用于当一个或多个主VM实例不可用时维持单个服务实例的可用性所需的辅VM实例的数量。该方法还包括由数据处理硬件基于维护单个服务实例的可用性所需的辅VM实例的数量来实例化辅VM实例的池。

本公开的实施方式可以包括以下可选特征中的一个或多个。在一些实施方式中，该方法还包括由数据处理硬件标识主VM实例的池中的主VM实例之一的不可用性，以及由数据处理硬件使不可用的主VM实例故障转移到辅VM实例池中的辅VM实例之一开始执行与不可用的主VM实例相关联的单个服务实例。在这些实施方式中，该方法还可以包括，由数据处理硬件确定辅VM实例包括相应的资源级，该资源级小于与对应的单个服务实例相关联的目标资源级；以及在辅VM实例执行单个服务实例的期间，由数据处理硬件增长辅VM实例的相应的资源级，直到满足与单个服务实例相关联的目标资源级为止。在一些示例中，辅VM实例的池中的辅VM实例的数量小于主VM实例的池中的主VM实例的数量。可选地，每个主VM实例可以执行多个主容器，并且每个主容器在与其他主容器隔离的安全执行环境中执行相应的单个服务实例。

在一些示例中，该方法还包括：当在池中执行的主VM实例的数量改变时，由数据处理硬件更新用于维持单个服务实例的可用性所需的辅VM实例的数量。主实例的不可用性可以基于主VM实例的故障、重新创建主VM实例的延迟或主VM实例的计划维护时间段中的至少一个。此外，不可用率可以包括不可用频率或不可用时段中的至少之一。

在一些实施方式中，该方法还包括由数据处理硬件基于平均无故障时间(MTTF)和重新创建相应的VM实例的预期时间长度来确定主VM实例的池中的每个主VM实例的不可用率。实例化辅VM实例的池可以包括确定主VM实例的池中的每个主VM实例的相应的VM类型，并且对于主VM实例的池中的每个不同的VM类型，实例化具有相同的VM类型的至少一个辅VM实例。在一些示例中，每个主VM实例的相应的VM类型指示该VM实例的内存资源需求、计算资源需求、网络规范需求或本地存储需求中的至少一个。