[发明专利]一种基于微服务调用依赖感知的在线应用动态扩缩容方法

说明书

本发明设计了采用MAPE模式的基于微服务调用依赖感知的在线应用动态扩缩容方法，将整个系统分为监控模块、分析模块、规划模块、执行模块四个部分，监控模块首先读取运行数据，所述运行数据包括区分为集群资源使用数据和服务调用相关数据，分析模块发现并选定待扩容或缩容的对象，规划模块计算所需扩缩容容器数目，最后由执行模块调整指定的容器集合中的副本数实现微服务水平扩缩容。这一系统能够通过分析微服务间调用依赖关系及延迟，与历史数据对比，计算并判断当前微服务运行状态及服务能力在请求流量变化时，基于微服务间调用依赖关系及应用延迟等信息，分析微服务服务能力，并对指定微服务进行扩缩容，在保障服务质量同时提升资源使用率。

技术领域

本发明涉及微服务架构领域，尤其涉及一种基于微服务调用依赖感知的在线应用动态扩缩容方法。

背景技术

在互联网中活跃着的大量应用与服务中，在线应用占有很大一部分比重。其中很多面向用户的应 用对延迟十分敏感，如网页搜索，在线票务系统，电商系统等。这些应用的用户流量往往随时间显现 出周期性或突发性波动。流量波动也就是工作负载波动，影响着应用所需资源进而影响服务质量。在 降低资源利用率的同时满足用户对延迟的要求，是在线服务优化的重要方向。微服务架构的提出和广 泛应用，得益于其灵活的部署、水平扩缩容能力，为这一问题带来了新的挑战和可能的解决方案。

微服务被认为是一种新的软件架构，用于构建部署在云上的高度模块化、松散耦合的应用程序集 合。微服务架构将传统的单体服务解耦成多个微服务组件，服务组件之间利用轻量级通信方式，如 http、rpc进行通信，各服务组件能够独立的开发、部署和运行。微服务的特点是体量小，强独立性 和松耦合性，有利于开发人员的持续集成和部署。

单个微服务体量较小，使用传统的物理机或虚拟机部署方式不利于体现微服务架构自身的灵活性 优势。现有的解决方案中，微服务往往以容器形式部署在云上，以Dokcer为代表的容器技术提供了 轻量级的运行环境隔离解决方案。容器是一个标准的软件单元，它将代码及其所有依赖项打包，从而 使应用程序能够从一个计算环境快速可靠地运行到另一个计算环境。Docker容器映像是一个轻量级 的、独立的、可执行的软件包，包含运行应用程序所需的一切:代码、运行时、系统工具、系统库和 设置。以kubernetes为代表的容器编排引擎为容器的自动化部署、自动扩缩容、编排提供产品级解 决方案。

上述技术的支持使得开发者能够较为容易的在云上部署以微服务架构组织的应用。应用在运行过 程中，其负载特性会动态变化。特别是对在线应用而言，随着用户请求量的变化，应用所需资源也会 随之动态变化，在线应用部署在集群中，需要随用户请求量等特征的变化进行动态扩缩容。对于微服 务而言，由于容器的轻量、灵活等特点，能够很好的实现水平扩缩容。水平扩缩容是指根据微服务对 资源的需决定添加或删除容器实例，以提升性能或降低资源使用率。如何在流量不断变化过程中，对 微服务进行动态扩缩容，根据所需资源情况调整容器实例数目，是微服务架构的一个研究方向。

对于用微服务架构组织的在线应用动态扩缩容问题，目前已有一些研究成果和技术方案，如基于 阈值的方法、预测未来资源使用量变化，引入时序预测方法。

但现有技术往往对单个微服务执行扩缩容判断和操作，很少将微服务应用看做一个整体，考虑其 中的调用依赖关系对扩缩容方法的影响。

微服务的特点是体量小、低耦合，与此同时，微服务与微服务之间有着较为复杂的调用依赖关系。 调用依赖使得微服务与上下游服务在服务质量与资源利用率上互相影响。

本发明旨在解决微服务架构下，在线应用如何根据所感知到的微服务调用依赖关系进行动态扩缩 容，以保证用户延迟和提升资源使用率。

发明内容

为了解决目前微服务扩缩容系统的一些弊端，我们提出一种基于微服务调用依赖感知的在线应用 动态扩缩容方法，微服务调度编排领域中的常见的MAPE模式，即整个系统分为监控模块、分析模块、 规划模块、执行模块四个部分：