[发明专利]基于服务组件级的细粒度云资源管控系统和方法

说明书

本发明涉及云计算技术领域，为提高云计算数据中心延迟敏感型服务和尽力批处理服务混合部署时的资源效率问题，从而提高混合部署时的资源利用率，本发明，基于服务组件级的细粒度云资源管控系统和方法，包括请求追踪器、贡献分析器、协调控制器，请求追踪器会解析出服务访问的路径，并且得出其在每一个组件上的运行时间；然后，贡献分析器通过分析得出服务级别协议SLA通过控制不同组件的执行时间的均值和方差来保证采用皮尔森相关系数来衡量组件上的执行时间和总的尾延迟的相关性，基于均值、方差、皮尔森相关系数，得出每个组件对于总的尾延迟的贡献；最后实现资源分配控制。本发明主要应用于云计算场合。

技术领域

本发明涉及云计算技术领域，特别是数据中心的任务调度与优化领域。

背景技术

云计算实现了租户之间的资源共享，提高了云服务器的资源利用率，但也给每个租户的用户体验带来了很多挑战。将多个应用程序部署到云服务器上，会在部署的工作负载之间产生性能干扰，显著影响应用程序的服务质量。为了减少共享资源例如中央处理器(Center Process Unit，简称CPU)、末级缓存(Last Level Cache，简称LLC)、内存带宽(Memory Bandwidth，简称MemBW)竞争导致的性能差异，2015年英特尔推出了资源管理技术(Resource Director Technology，简称RDT)，支持一些Xeon至强系列处理器监视和分配多个共享资源¹，但是目前尚不支持对内存带宽的分配。PARD²支持在硬件层次上通过可编程的按需的架构来区分不同的服务，但使用它需要新的硬件支持。

在现有的云系统中，租户通常采用资源过度分配的方法来减少干扰。但是，浪费性的过度分配导致低的资源利用率，从而增加了云服务的成本。如何在保证用户体验的同时提高云系统的资源利用率成为一个大挑战。为了解决这一挑战，最常用的方法之一是根据非竞争应用程序的资源使用特性合并它们。然而，将它们广泛部署在大型云系统中是不实际的，首先，随着新的云应用的不断涌现，当今的云应用非常多，几乎不可能对所有的云应用进行准确的描述。其次，即使对于相同的应用程序，其资源消耗也可能随访问负载(或数据大小、版本升级)而变化。第三，可能合并的数量将随着工作负载的数量以指数形式进一步增长，很难有效地找到合适的合并。在不描述资源使用模式的情况下，还可以通过监控是否违反服务级别协议SLA(Service Level Agreement，简称SLA)的反馈响应来减轻问题，包括系统重新配置以及资源重新分配。然而，为了尽可能避免影响用户体验，它们的响应策略通常相当保守。对服务性能的描述表明，保守响应是非常安全的，但是可能会损害资源的利用率，并且仍然有可能通过积极的整合来提高资源的利用率。

¹Ioannis Papadakis,Konstantinos Nikas,Vasileios Karakostas,GeorgiosGoumas,and Nectarios Koziris.Improving qos and utilisation in modern multi-core servers with dynamic cache partitioning.In Proceedings of the JoinedWorkshops COSH 2017and VisorHPC 2017,2017.

²Jiuyue Ma,Xiufeng Sui,Ninghui Sun,Yupeng Li,Zihao Yu,Bowen Huang,Tianni Xu, Zhicheng Yao,Yun Chen,Haibin Wang,Lixin Zhang,and YungangBao.Supporting differentiated services in computers via programmablearchitecture for resourcing-on-demand(pard).SIGARCH Comput.Archit.News,43(1):131–143,March 2015。

发明内容