[发明专利]一种基于动态限速的云应用负载调度方法

说明书

发明涉及一种基于动态限速的云应用负载调度方法。面向长时间运行的云应用，根据负载历史记录生成r‑b曲线以描述存储和网络利用率，基于动态规划为每类负载自动生成限速参数，并选择能够满足SLO要求的服务器。在保障处理负载的性能满足SLO的约束下，通过对自动化设置存储和网络限速参数，调度并整合负载以最小化处理负载的服务器数量，从而提高资源利用率并减少能耗。

技术领域

本发明涉及一种基于动态限速的云应用负载调度方法，属于软件技术领域。

背景技术

在云计算环境中，云服务提供商为多个客户提供共享的计算、网络和存储资源以最大化资源利用率，降低总体能耗，从而减少数据中心的运营成本，同时保障良好性能，如满足请求处理延迟时间，以提升客户满意度。客户通常定义服务水平目标（SLO，ServiceLevel Object）以描述处理负载的性能要求，比如“80%的请求必须在100毫秒内完成”。那么，需要具有高效的负载调度方法，服务器在满足性能目标的前提下，能够处理多样化的负载。为了应对整合负载所带来的网络拥塞问题，云服务提供者和客户通常会达成限速协议，客户静态设定限速规则，服务提供商则进行相应的优化，以实现性能最大化。当前负载调度方法是，为客户预先保留一定数量的资源，或者以尽最大努力的方式处理负载。Silo（KeonJang, Justine Sherry, Hitesh Ballani, and Toby Moncaster. 2015. Silo:Predictable Message Latency in the Cloud. In ACM SIGCOMM. ACM, 435–448.）设计限速方案以保障网络延迟；pClock（Ajay Gulati, Arif Merchant, and Peter J.Varman. 2007. pClock: an arrival curve based approach for QoS guarantees inshared storage systems. In Proceedings of the 2007 ACM SIGMETRICSinternational conference on Measurement and modeling of computer systems.ACM, New York, NY, USA, 13–24.）设计限速方案以保障存储延迟；文献（Nohhyun Park,Irfan Ahmad, and David J. Lilja. 2012. Romano: Autonomous Storage ManagementUsing Performance Prediction in Multi-tenant Datacenters.In Proceedings ofthe Third ACM Symposium on Cloud Computing. ACM,New York, NY, USA, Article21, 14 pages.）采用性能预测的方法动态调整等待处理的负载。然而，面对大量负载，难以实现通过预留资源来满足处理延迟，尤其是，短期突发性负载会对处理延迟产生显著影响。同时，难以为不同的负载类型设置合理的限速参数。

发明内容

本发明的目的：面向长时间运行的云应用，在保障处理负载的性能满足SLO的约束下，将负载调度并整合到目标服务器，以最小化处理负载的服务器数量。

本发明的原理：刻画负载，描述其对处理延迟的影响，通过对存储和网络进行限速，并设置负载的优先级，在满足处理延迟的条件下，自动化的减少服务器数量。

本发明技术解决方案：一种基于动态限速的云应用负载调度方法，其特点在于实现步骤如下：