[发明专利]一种ceph集群数据均衡方法以及系统有效
申请号: | 202210184861.4 | 申请日: | 2022-02-28 |
公开(公告)号: | CN114237520B | 公开(公告)日: | 2022-07-08 |
发明(设计)人: | 吴日明;史伟;霍键聪 | 申请(专利权)人: | 广东睿江云计算股份有限公司 |
主分类号: | G06F3/06 | 分类号: | G06F3/06 |
代理公司: | 广东科信启帆知识产权代理事务所(普通合伙) 44710 | 代理人: | 李波 |
地址: | 528000 广东省佛山市禅*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 ceph 集群 数据 均衡 方法 以及 系统 | ||
本申请公开了一种ceph集群数据均衡方法以及系统,属于网络通信技术领域,数据均衡方法通过主归置组将要均衡的数据块进行平均划分,生成多个均衡清单,然后主归置组保留一个均衡清单,将其他的均衡清单分别发送到从归置组,最后主归置组以及从归置组根据均衡清单上的数据块名称将自身存储的数据块对应发送到新增加的数据存储装置中实现均衡,单位时间内多个归置组同时相互配合执行均衡操作,大大提高了数据均衡的效率。
技术领域
本发明属于网络通信技术领域,尤其涉及一种ceph集群数据均衡方法以及系统。
背景技术
在ceph分布式存储系统概念里,一块硬盘对应为一个Object-Based StorageDevice(简称OSD),OSD将硬盘存储空间划分为一个个小数据块,这样的小数据块称为object。一个OSD含有成千上万的object,为了便于管理这些object,ceph采用了归置组(placement group,简称PG),通过稳定的算法把object划分到某个PG下。ceph默认采用三副本保证数据可靠性,也就是一个object在同时存在三个OSD中,这三个OSD划分为一个主OSD和两个从OSD,主OSD对应主PG,从OSD对应从PG。当ceph集群添加了新硬盘后,原有OSD的数据需要均衡到新OSD中。由于ceph数据均衡的最小单位是PG,也就是添加新硬盘后,原有OSD的一部分PG需要均衡到新OSD中。目前ceph仅由主PG发起数据均衡,均衡速度慢,均衡效率低,数据均衡是一个耗时过程,均衡过程中无法接收用户端的读写请求,导致用户端的请求等待时间较长,用户体验感受差。
发明内容
(一)发明目的
为了克服以上不足,本发明的目的在于提供一种ceph集群数据均衡方法以及系统,以解决现有的ceph集群数据均衡耗时较长,均衡期间若客户端发送写入请求,需要等待较长时间才能够得到请求回复,用户体验效果差的技术问题。
(二)技术方案
为实现上述目的,本申请一方面提供的技术方案如下:
一种ceph集群数据均衡方法,应用于ceph分布式存储系统,均衡方法包括以下步骤:
主归置组统计待均衡的所有数据块总数,完成统计后将所有统计的数据块平均划分为预定等份,基于每一预定等份分别生成一个均衡清单,根据对应预定等份中的数据块名称确定各均衡清单的内容;
其中,预定等份为主归置组与多个从归置组的数量总和;
主归置组保留一份均衡清单并且将其余的均衡清单分别分发到不同的从归置组;
主归置组与从归置组根据自身均衡清单上的数据块名称,将存储在自身的对应的数据块均衡到新增加的数据存储装置中。
本申请通过主归置组将要均衡的数据块进行平均划分,生成多个均衡清单,然后主归置组保留一个均衡清单,将其他的均衡清单分别发送到从归置组,最后主归置组以及从归置组根据均衡清单上的数据块名称将自身存储的数据块对应发送到新增加的数据存储装置中实现均衡,单位时间内多个归置组同时相互配合执行均衡操作,大大提高了数据均衡的效率。
进一步地,在统计待均衡的所有数据块总数之后并且在将所有统计的数据块平均划分为预定等份之前,还包括:将正在被客户端请求读写的数据块标记为紧急数据块,将其余没有被客户端请求读写的数据块标记为普通数据块。
基于每一预定等份分别生成一个均衡清单还包括:判断每个均衡清单上是否包含紧急数据块的名称,若包含,将每个均衡清单内紧急数据块名称置于普通数据块名称之前。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广东睿江云计算股份有限公司,未经广东睿江云计算股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210184861.4/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种自学习式人脸识别终端
- 下一篇:一种碳化硅晶体生长用输送系统
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置