[发明专利]融合业务预测与实时负载的两阶段服务系统负载预测与均衡方法

说明书

技术领域

本发明涉及一种软件服务系统负载预测方法，尤其涉及一种融合业务预测与实时负载的两阶段负载预测与均衡方法。

背景技术

服务计算带来软件体系结构的重大变革，以面向服务架构（SOA）、软件即服务（SaaS）为典型代表，软件系统的存在形态、发布方式、运行与维护方式都有了本质性的改变，促进了软件体系结构及其理论技术的发展。SaaS应用系统普遍采用多租户（multi-tenant）模式，在满足各租户性能指标，如持续服务、服务吞吐量、适应服务能力的涨落等要求的同时，作为服务提供一方，通过服务系统的优化部署，提高其整体资源利用率，降低成本。这就要求服务系统能够适应动态变化和动态扩展，在满足用户需求的前提下兼顾效率，更高效地利用应用资源，并能够最大化不同用户间的资源共享。由于服务用户众多，在线服务系统的实时可靠性要求也更高。

目前主流的SaaS应用中，最终用户所使用的是一个只为所用不为所有的虚拟系统，这个“系统”由若干服务组件组合而成，因此，SaaS应用所对应组件集合的优化部署能力成为提升SaaS应用服务性能与资源使用效率的一个关键。与传统的应用优化和可靠性保障不同，通过服务组件的动态迁移，可以实现更为高效的部署，以支持实时、在线服务系统的运营需求。

服务迁移是在软件服务化趋势下，针对面向服务架构中基于服务部署的系统提出的一个新的问题，是指将服务迁移部署到新的宿主位置，并确保对业务系统的最小负面影响。在动态、大规模、需要自动化处理的应用环境中，服务迁移是一种更为理想的服务部署方法。通过服务迁移，可以以较小的迁移代价确保服务的可用性、性能的可靠性以及服务能力的扩展需求，从而实现整个服务系统的灵活性与可扩展性，是确保软件服务系统持久高效运营的一种有效策略。

服务迁移从类型上可以分为离线迁移和在线迁移；从服务状态保持上又可以分为有状态迁移和无状态迁移两种；在迁移的实现上，有自动迁移，半自动迁移与手动迁移等多种不同的方式。

离线迁移是指将服务转移到重新配置的位置并重新启动。在迁移的过程中需要暂停或中止当前的服务，因此离线迁移不可避免的会干扰正常商务系统的运行，从而造成服务中断和服务质量的下降；另外，多租户服务系统运行时的访问和业务负载弹性大，由于负载波动造成的暂时性服务系统性能下降或能力不足问题非常普遍，如果频繁的中止服务进行迁移，势必造成系统可用性的下降。

所以，离线迁移并不适合目前SaaS服务系统的运营需求，需要采用在线迁移的方法，确保迁移过程对用户的透明性，不干扰用户业务的执行；其中，迁移时机和迁移路线的选择，也是迁移有效与否的重要因素，需要结合服务负载情况制定良好的迁移策略。迁移过程是服务宿主环境的变化，会对当前服务上下文产生影响，无状态的服务迁移由于不需要考虑之前服务的内容，相对较简单。但实际业务应用中，大量使用的是有状态的服务迁移，需要确保迁移前后服务上下文的一致性，从而使服务的执行不受影响；但由于服务本身的松散耦合、异构、分布等特点使得状态的表达、转移和保持变得非常困难。

手动迁移需要人工做出判断，在管理员的干预下，启动迁移程序，完成服务到新的宿主位置的迁移；半自动迁移则可以依靠指标的评价，自动的做出迁移决策，发出迁移指令，并由管理员完成迁移的操作；而自动迁移则是根据服务系统的迁移策略或者负载变化，实时响应迁移需求，并自动的完成迁移工作。

服务迁移时需要综合考虑服务实例、状态表示、数据等诸多方面的因素，一旦出现反复的迁移操作，即迁移抖动问题，会带来比较大的系统开销。