[发明专利]对微服务故障转移的管理

说明书

本公开涉及对微服务故障转移的管理。本文描述的实施例总体上涉及对微服务故障转移的智能管理。在一个示例中，由故障转移服务响应于与主要微服务正在其上执行服务的任务的平台的处理资源相关联的不可校正硬件错误来接收故障转移触发。由故障转移服务识别与主要微服务一起以锁步模式操作的次要微服务。由故障转移服务基于由主要微服务持久保存的故障转移元数据，使得次要微服务以非锁步模式来接管任务的执行。由故障转移服务使得主要微服务脱机。

技术领域

本文描述的实施例总体上涉及微服务架构的领域，更具体地，涉及智能地处理微服务架构中的故障转移问题。

背景技术

数据中心通常利用微服务架构来支持各种服务供应。微服务架构可以将应用布置为松散耦合的微服务的集合。微服务可以指使用技术不可知协议在网络上通信以实现目标的过程。在一些情况下，可以使用提供容器化工作负载和/或服务的容器编排平台来部署微服务。容器编排平台可以利用服务网格来管理微服务之间的大量基于网络的进程间通信。服务网格是用于微服务的专用软件基础设施层，其包括使得微服务之间的通信能够快速、可靠和安全的元件。服务网格提供能力，包括服务发现、负载平衡、加密、可观察性、可追踪性以及认证和授权。由服务网格提供的微服务部署模型变得越来越有弹性，从而提供了放大和缩小微服务的灵活性。

在服务网格环境中，计算集群中的典型工作者节点可以同时处理数百个容器工作负载。这些工作者节点还可以具有为计算密集型任务而优化的静态附接的专用硬件加速器。例如，可以优化一类硬件加速器以高效地运行密码和压缩算法，或者运行机器学习加速算法。这样的硬件加速器可以被提供为分离计算的形式，其中工作负载被分布在分离计算资源上，例如CPU、GPU和硬件加速器(包括现场可编程门阵列(FPGA))，这些分离计算资源经由网络连接而不是在同一平台上并且经由物理链路(例如外围组件快速互连(PCIe))连接。分离计算通过允许更高效地使用可用资源来实现改进的资源利用并降低拥有成本。分离计算还使得能够汇集大量硬件加速器以用于大型计算，从而使得计算更高效和更好地执行。

发明内容

本公开的一个方面提供了一种系统，包括：一个或多个处理资源；以及机器可读介质，耦合到所述处理资源并且具有存储在其中的指令，所述指令在由所述处理资源执行时，使得所述处理资源执行以下操作：响应于与如下平台的处理资源相关联的不可校正硬件错误来接收故障转移触发：主要微服务正在所述平台上执行服务的任务；识别与所述主要微服务一起以锁步模式操作的次要微服务；基于由所述主要微服务持久保存的故障转移元数据，引导所述次要微服务以非锁步模式来接管所述任务的执行；以及使所述主要微服务脱机。

本公开的另一方面提供了一种方法，包括：由故障转移服务响应于与如下平台的处理资源相关联的不可校正硬件错误来接收故障转移触发：主要微服务正在所述平台上执行服务的任务；由所述故障转移服务识别与所述主要微服务一起以锁步模式操作的次要微服务；由所述故障转移服务基于由所述主要微服务持久保存的故障转移元数据，使得所述次要微服务以非锁步模式来接管所述任务的执行；以及由所述故障转移服务使得所述主要微服务脱机。

本公开的另一方面提供了一种非暂态机器可读介质，存储有指令，所述指令在由处理器执行时，使得所述处理器执行如任一方面所述的方法。

本公开的另一方面提供了一种计算机程序，包括指令，当所述程序由处理器执行时，所述指令使得所述处理器执行如任一方面所述的方法。

附图说明

在附图的各图中，通过示例而非限制的方式示出了在此描述的实施例，在附图中，相似的附图标记指代相似的元件。

图1是示出根据一些实施例的数据中心系统的框图，该数据中心系统提供跨计算、存储和通信的动态端到端微服务故障转移和弹性。

图2是示出根据一些实施例的数据中心中的计算平台的组件的框图。

图3是实现根据一些实施例的对服务的故障转移微服务代理的管理的服务平台的框图。