[发明专利]一种ceph集群数据均衡方法以及系统有效

专利信息
申请号: 202210184861.4 申请日: 2022-02-28
公开(公告)号: CN114237520B 公开(公告)日: 2022-07-08
发明(设计)人: 吴日明;史伟;霍键聪 申请(专利权)人: 广东睿江云计算股份有限公司
主分类号: G06F3/06 分类号: G06F3/06
代理公司: 广东科信启帆知识产权代理事务所(普通合伙) 44710 代理人: 李波
地址: 528000 广东省佛山市禅*** 国省代码: 广东;44
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 ceph 集群 数据 均衡 方法 以及 系统
【说明书】:

本申请公开了一种ceph集群数据均衡方法以及系统,属于网络通信技术领域,数据均衡方法通过主归置组将要均衡的数据块进行平均划分,生成多个均衡清单,然后主归置组保留一个均衡清单,将其他的均衡清单分别发送到从归置组,最后主归置组以及从归置组根据均衡清单上的数据块名称将自身存储的数据块对应发送到新增加的数据存储装置中实现均衡,单位时间内多个归置组同时相互配合执行均衡操作,大大提高了数据均衡的效率。

技术领域

发明属于网络通信技术领域,尤其涉及一种ceph集群数据均衡方法以及系统。

背景技术

在ceph分布式存储系统概念里,一块硬盘对应为一个Object-Based StorageDevice(简称OSD),OSD将硬盘存储空间划分为一个个小数据块,这样的小数据块称为object。一个OSD含有成千上万的object,为了便于管理这些object,ceph采用了归置组(placement group,简称PG),通过稳定的算法把object划分到某个PG下。ceph默认采用三副本保证数据可靠性,也就是一个object在同时存在三个OSD中,这三个OSD划分为一个主OSD和两个从OSD,主OSD对应主PG,从OSD对应从PG。当ceph集群添加了新硬盘后,原有OSD的数据需要均衡到新OSD中。由于ceph数据均衡的最小单位是PG,也就是添加新硬盘后,原有OSD的一部分PG需要均衡到新OSD中。目前ceph仅由主PG发起数据均衡,均衡速度慢,均衡效率低,数据均衡是一个耗时过程,均衡过程中无法接收用户端的读写请求,导致用户端的请求等待时间较长,用户体验感受差。

发明内容

(一)发明目的

为了克服以上不足,本发明的目的在于提供一种ceph集群数据均衡方法以及系统,以解决现有的ceph集群数据均衡耗时较长,均衡期间若客户端发送写入请求,需要等待较长时间才能够得到请求回复,用户体验效果差的技术问题。

(二)技术方案

为实现上述目的,本申请一方面提供的技术方案如下:

一种ceph集群数据均衡方法,应用于ceph分布式存储系统,均衡方法包括以下步骤:

主归置组统计待均衡的所有数据块总数,完成统计后将所有统计的数据块平均划分为预定等份,基于每一预定等份分别生成一个均衡清单,根据对应预定等份中的数据块名称确定各均衡清单的内容;

其中,预定等份为主归置组与多个从归置组的数量总和;

主归置组保留一份均衡清单并且将其余的均衡清单分别分发到不同的从归置组;

主归置组与从归置组根据自身均衡清单上的数据块名称,将存储在自身的对应的数据块均衡到新增加的数据存储装置中。

本申请通过主归置组将要均衡的数据块进行平均划分,生成多个均衡清单,然后主归置组保留一个均衡清单,将其他的均衡清单分别发送到从归置组,最后主归置组以及从归置组根据均衡清单上的数据块名称将自身存储的数据块对应发送到新增加的数据存储装置中实现均衡,单位时间内多个归置组同时相互配合执行均衡操作,大大提高了数据均衡的效率。

进一步地,在统计待均衡的所有数据块总数之后并且在将所有统计的数据块平均划分为预定等份之前,还包括:将正在被客户端请求读写的数据块标记为紧急数据块,将其余没有被客户端请求读写的数据块标记为普通数据块。

基于每一预定等份分别生成一个均衡清单还包括:判断每个均衡清单上是否包含紧急数据块的名称,若包含,将每个均衡清单内紧急数据块名称置于普通数据块名称之前。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广东睿江云计算股份有限公司,未经广东睿江云计算股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202210184861.4/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top