[发明专利]一种基于令牌桶算法的Ceph块存储镜像同步QoS优化方法

说明书

本发明公开了一种基于令牌桶算法的Ceph块存储镜像同步QoS优化方法，该方法包括启动块存储镜像同步守护进程，执行启动流程请求从主集群同步数据到备集群，采用令牌桶算法对启动流程的IO请求进行控制，执行日志重放事件流程请求从主集群同步数据到备集群，采用令牌桶算法对日志重放事件流程的IO请求进行控制。本发明采用令牌桶算法对从主集群同步数据到备集群的网络带宽进行限速，避免块存储镜像同步占用过多的网路和IO带宽，同时也能保障重要的数据业务优先备份，并且具备处理突发性IO能力，可以对突然产生的大量IO进行处理，避免对集群网络操作冲击。

技术领域

本发明属于数据存储技术领域，具体涉及一种基于令牌桶算法的Ceph块存储镜像同步QoS优化方法。

背景技术

2006诞生的ceph分布式存储系统，是开源社区项目，也是openstack的默认后端存储。ceph是一种软件定义存储，可以运行在所有主流的Linux发行版和其他类UNIX操作系统。ceph的分布式架构使其可以轻易的管理成百上千个节点，同时基于计算的扁平寻址使得ceph客户端可以直接和服务端的任意节点通信，避免因为存在访问热点导致性能瓶颈。ceph对外提供了三大存储接口：块存储(RADOS Block Device，RBD)、文件系统、对象存储。

RBD已成为openstack等IaaS(基础设施及服务)云计算环境中虚拟机、镜像、云盘等服务的块设备存储后端。随着ceph的发展，在Jewel发行版中，开始有了使用RBD镜像来作为两个ceph集群的灾备功能。该功能使用RBD journaling(日志)特性来确保两个集群之间的同步复制。Mirroring(镜像同步)是在对等集群中的每个存储池的基础上配置的，可以配置为一个存储池中的所有images(镜像)自动mirror或者只指定特定的images子集做mirror。RBD-mirror守护进程负责从远端ceph集群中拉去image更新，并将其应用于本地集群的image中。在主备集群之间做RBD mirror数据就必须要走网络，ceph集群的IO能力是有限的，比如带宽、IOPS(每秒中)等。所以需要把有限的IO能力合理的分配，保证重要的业务有足够的IO能力。基于上述因素，需要对RBD Mirror引入QoS(Quality of Service，服务质量)特性，以满足对重要业务的灾备质量。QoS最早起源于网络通信，是指一个通信网络能过利用各种基础技术，为特定应用提供更好的服务的能力。对于一个存储系统而言，QoS更加合理的统筹系统有限的IO资源，从而实现按需分配，对外提供更好的存储能力。作为一个基于对象的分布式存储系统，ceph与传统的存储系统存在很多不同，其中最重要的一点就是：传统存储系统一般而言存在中心控制点，而ceph为了最大程度的追求可扩展性和高并发性，允许客户端通过CRUSH直接与集群中的OSD通信。ceph这种去中心化的架构设计使得其QoS实现机制与传统存储系统存在本质的不同，所以采用的设计原则是不丢失系统原有的优良特性，来实现RBD mirror QoS的功能。

关于ceph的QoS，目前的研究现状是将QoS机制直接嵌入到每个OSD中来实现，引入一层客户端级别的新队列，采用基于权重的轮询机制，将不同客户端队列中的请求分发至磁盘调度队列，从而在单个OSD层面实现对不同客户端按其权重分配IO资源，这种方案存在局限性：无法解决客户端IO资源预留以及最大IO资源限制问题。

发明内容

针对现有技术中的上述不足，本发明提供了一种基于令牌桶算法的Ceph块存储镜像同步QoS优化方法，实现ceph对RBD mirror QoS的支持，保证到RBD mirror的IO资源合理的分配，并且避免突发性IO对集群造成冲击。

为了达到上述发明目的，本发明采用的技术方案为：

一种基于令牌桶算法的Ceph块存储镜像同步QoS优化方法，包括以下步骤：

S1、启动块存储镜像同步守护进程，并建立一个共享令牌桶类；

S2、利用块存储镜像同步守护进程执行启动流程，请求从主集群同步数据到备集群；