[发明专利]一种云应用导向的固态盘缓存管理系统及方法

说明书

本发明涉及一种云应用导向的固态盘缓存管理系统及方法，其核心思想是从云应用的视角切入，使用多层网络模型刻画虚拟机与固态盘之间的映射关系，并进一步确定每个虚拟机获得的最佳的固态盘缓存大小。当云应用的工作负载发生变化时，系统会自动触发调整过程，执行虚拟机动态迁移以及缓存容量更改，从而提升云应用的性能，提高固态盘的利用率。

技术领域

本发明涉及一种云应用导向的固态盘缓存管理系统及方法，尤其涉及一种基于多层网络的固态盘缓存分配和缓存导向的虚拟机动态迁移方法。属于软件技术领域。

背景技术

虚拟化技术目前得到了广泛应用。借助虚拟化技术，一台物理服务器上可以聚合(Consolidation)多台虚拟机，从而有效提升硬件资源利用率。虚拟化服务器(Hypervisor)上通常部署基于磁介质的机械硬盘(Hard Disk Drive，HDD)，或通过iSCSI等协议连接到后端的大容量共享存储，用作保存虚拟机镜像。在这一架构中，虚拟化服务器的IO性能直接影响了虚拟机本身的性能。

固态盘(Solid State Disk，SSD)作为一种快速的非易失性介质，通常部署在Hypervisor上，用作后端虚拟机镜像存储的读写缓存。虚拟机的IO请求会先经过缓存，若缓存命中，则缓存数据会立刻返回，不会进一步触发针对后端HDD或共享存储的相对速度较慢的读写操作，从而有效提升IO性能。一台Hypervisor上部署的固态盘缓存是由这台Hypervisor上承载的所有虚拟机共享的，因此，合理使用固态盘缓存资源至关重要。

云应用是虚拟化环境下的主要服务模式。一个典型云应用通常由多台虚拟机组成，这些虚拟机上部署了不同的组件，互相之间存在关联，并共同对外提供服务。虚拟化环境下一种典型的云应用场景是基于Web的事务型云应用。这一类云应用通常由前端负载均衡器、服务中间件以及后端数据库或持久化存储组成，通常提供了基于HTTP(S)协议的接口供用户通过浏览器访问，或开放了诸如RESTful风格的API供第三方开放平台应用接入。这类应用同样可以连接复杂的后端事务处理逻辑，如社交网络图谱、大数据分析等。对于这一类应用而言，平均响应时间是最关键的指标，直接影响到最终用户的体验，而优化响应时间需要从应用的角度通盘考虑，无法直接从应用集群中确定优化目标和手段。

另外，云应用本身的负载是动态变化的，用户对云应用的使用具备一定的模式，体现到虚拟机上可能表现为截然不同的IO负载表现，在进行固态盘缓存资源管理时，也需要具备自适应能力，可以感知到云应用的负载模式变化并触发固态盘资源的新一轮调整，以保证应用性能最优。

然而，目前主流的固态盘缓存资源管理方法通常从虚拟机和缓存本身的角度考虑，主要解决固态盘缓存的资源分配问题，目标是尽可能合理地将固态盘缓存分配给所有虚拟机，并达到性能最优。这类工作关注的指标是缓存的Miss率以及相关导出指标，如从虚拟机中观察到的IO响应时间、IO带宽等。缓存Miss率作为缓存最关键的指标，直接反映了缓存的使用状况，也和最终使用缓存的客户端(即虚拟机)的平均IO响应时间密切相关，因此降低缓存Miss率是提高IO性能的一个直观有效的手段。但值得注意的是，单纯从底层IO指标切入忽略了上层工作负载对底层存储设备的性能影响，实际调整效果和理论模型计算结果存在一定的差距。

此外，这类缓存资源管理方法将虚拟机作为独立的单位看待，独立进行调整，没有考虑到从属于同一个云应用的虚拟机之间具有的天然关联，也没有从应用的视角评价应用整体平均响应时间。从属于同一个云应用的不同虚拟机可能具有不同的优先级和IO负载，并可能承担不同事务的处理。对不同的虚拟机进行缓存容量调整会对应用的平均响应时间造成不同的影响。这可能导致在进行固态盘缓存资源管理时尽管从各个独立的虚拟机角度看可以达到最优的Miss率、IO响应时间或IO带宽，但从应用视角看不能达到最优性能。