[发明专利]一种分布式文件系统的数据重构方法有效
申请号: | 201911122586.8 | 申请日: | 2019-11-15 |
公开(公告)号: | CN110908606B | 公开(公告)日: | 2021-06-29 |
发明(设计)人: | 刘鑫;孟祥瑞 | 申请(专利权)人: | 浪潮电子信息产业股份有限公司 |
主分类号: | G06F3/06 | 分类号: | G06F3/06;G06F16/182 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 张春辉 |
地址: | 250101 山东*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 分布式 文件系统 数据 方法 | ||
本申请公开了一种分布式文件系统的数据重构方法、装置、服务器及可读存储介质,该方案能够在存储池超水位时对是否进行数据重构的决策策略进行更精细的控制,在实际过程中,首先确定并计算承载数据重构的OSD在数据重构发生后的水位,然后判断各个OSD的水位是否超过重构水位限制,当且仅当各个OSD的水位均不超过重构水位限制时,才执行数据重构。相较于传统方案以存储池水位为准决策是否执行数据重构的方式,该方案以承载数据重构的各个OSD的水位来决策是否进行数据重构,因此,该方案的控制粒度更精细,能使数据重构最大化利用磁盘空间,提升了数据重构性能。
技术领域
本申请涉及计算机技术领域,特别涉及一种分布式文件系统的数据重构方法、装置、服务器及可读存储介质。
背景技术
分布式文件系统中,OSD的主要功能是存储数据、复制数据、平衡数据、恢复数据等。一般情况下一块硬盘对应一个OSD,由OSD来对硬盘存储进行管理。当OSD挂载的硬盘故障时,需要对该OSD的数据进行恢复,故障的OSD中的数据在其他OSD中恢复出来的过程被称为数据重构。
当数据重构发生时,客户端对集群进行读写操作和数据重构会同时进行,为了减少数据重构对客户端读写性能的影响,可以对集群的数据重构速度进行调整。目前,已有方案通过调整集群的数据重构优先级来达到调整数据重构速度的目的。
除了上述对数据重构速度的直接控制,还可以控制数据重构过程的执行时机。当硬盘空间占用较大,存储池处于超水位状态时,硬盘性能会降低,如果触发数据重构,承载重构数据的硬盘占用会更大,甚至有可能占满,从而影响集群性能,并影响客户端写入功能。因此,目前已有方案在存储池处于超水位状态时,就会停止数据重构功能,避免数据重构造成承载数据的硬盘占用空间过大。但是,由于存储池的各个OSD数据分布不是完全均匀的,而且存储池水位阈值往往不够难以准确设置,导致这种控制方案精准性较差,使得数据重构性能受到影响。
可见,如何提供一种分布文件系统的数据重构方案,实现对数据重构过程的精确控制,避免数据重构性能较低从而影响集群性能的现象,是亟待本领域技术人员解决的问题。
发明内容
本申请的目的是提供一种分布式文件系统的数据重构方法、装置、服务器及可读存储介质,用以解决传统的数据重构控制方案不够精准,导致数据重构性能较低,甚至影响分布式集群性能的问题。其具体方案如下:
第一方面,本申请提供了一种分布式文件系统的数据重构方法,包括:
确定目标OSD所在存储池的主机数量和归置组副本数;
若所述归置组副本数等于所述主机数量,则确定所述目标OSD数据重构之后当前主机的各个OSD的水位;
若所述归置组副本小于所述主机数量,则确定所述目标OSD预期数据重构至的目标主机,并确定所述目标OSD数据重构之后所述目标主机的各个OSD的水位;
在所述各个OSD的水位均不超过重构水位限制时,对所述目标OSD执行数据重构。
优选的,所述确定所述目标OSD预期数据重构至的目标主机,包括:
根据CRUSH算法,确定所述目标OSD预期数据重构至的目标主机。
优选的,所述确定所述目标OSD数据重构之后当前主机的各个OSD的水位,包括:
确定所述目标OSD所在存储池的主机的OSD数量;
根据所述OSD数量,计算所述目标OSD的数据均分之后当前主机的各个OSD的水位,以作为数据重构之后所述当前主机的各个OSD的水位。
优选的,所述在所述各个OSD的水位均不超过重构水位限制时,对所述目标OSD执行数据重构,包括:
判断所述各个OSD的水位中是否存在超过重构水位限制的水位;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浪潮电子信息产业股份有限公司,未经浪潮电子信息产业股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911122586.8/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置