[发明专利]一种分布式存储系统数据均衡的方法和相关装置有效
申请号: | 202011194931.1 | 申请日: | 2020-10-30 |
公开(公告)号: | CN112015708B | 公开(公告)日: | 2021-02-19 |
发明(设计)人: | 甘红星 | 申请(专利权)人: | 北京金山云网络技术有限公司 |
主分类号: | G06F16/18 | 分类号: | G06F16/18;G06F3/06 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 储倩 |
地址: | 100085 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 分布式 存储系统 数据 均衡 方法 相关 装置 | ||
本申请公开了一种分布式存储系统数据均衡的方法和相关装置,该方法包括:从目标服务器的当前磁盘中,选择一个待数据重整数据块作为目标数据块;依据目标服务器的各个磁盘的使用情况和数据重整并发数据,筛选符合预设使用条件和预设数据重整并发条件的磁盘作为目标磁盘;对目标数据块进行数据重整,将数据重整后的数据写入目标磁盘。在数据重整后的数据写入目标选择上,优先选择使用情况和数据重整并发数据符合预设使用条件和预设数据重整并发条件的磁盘;采用上述方式通过已有的数据重整处理,动态调节不同磁盘的使用情况,实现服务器集群中单个服务器内不同磁盘间数据均衡,不会增加额外的磁盘IO,也避免了服务器集群的写入瓶颈。
技术领域
本申请涉及数据处理技术领域,尤其涉及一种分布式存储系统数据均衡的方法和相关装置。
背景技术
随着数据的快速增长,分布式存储系统的应用越来越广,例如,分布式对象存储系统。分布式存储系统通常采用循环策略将数据自动打散存储到不同服务器的不同磁盘上,当扩容新的服务器后,由于新的服务器还未存储数据,分布式存储系统采用可用空间策略优先将数据写入至新的服务器,使得服务器集群中各个服务器使用率趋于均衡状态。
分布式存储系统经常出现磁盘故障的情况,当磁盘修复完成重新加入服务器后,通常是采用可用空间策略优先或者主动数据均衡策略实现服务器集群中单个服务器内数据均衡。但是,可用空间策略对于单个服务器内不同磁盘间数据均衡效果一般,容易出现服务器集群的写入瓶颈;主动数据均衡策略对存在吞吐压力的服务器集群造成额外的IO放大。
发明内容
有鉴于此,本申请实施例提供一种分布式存储系统数据均衡的方法和相关装置,不会增加额外的磁盘IO,也避免了服务器集群的写入瓶颈,即可实现服务器集群中单个服务器内不同磁盘间数据均衡。
第一方面,本申请实施例提供了一种分布式存储系统数据均衡的方法,所述方法包括:
从目标服务器的当前磁盘中,确定一个待数据重整数据块为目标数据块;
基于所述目标服务器的各个磁盘的使用情况和数据重整并发数据,筛选符合预设使用条件和预设数据重整并发条件的磁盘作为目标磁盘;
对所述目标数据块进行数据重整,将数据重整后的数据写入所述目标磁盘。
可选的,所述基于所述目标服务器的各个磁盘的使用情况和数据重整并发数据,筛选符合预设条件的磁盘为目标磁盘,包括:
基于各个所述磁盘的使用情况,筛选符合所述预设使用条件的磁盘作为候选磁盘;
基于各个所述候选磁盘的可用空间由大到小排序各个所述候选磁盘;
按照排序判断所述候选磁盘的数据重整并发数据是否符合预设数据重整并发条件;若是,将所述候选磁盘确定为所述目标磁盘。
可选的,所述预设使用条件具体为可用空间大于所述当前磁盘的可用空间,或者,磁盘使用率小于所述当前磁盘的磁盘使用率;所述预设数据重整并发条件具体为数据重整并发数据小于预设数据重整并发数据上限。
可选的,所述数据重整并发数据包括数据重整并发数量和数据重整并发速度。
可选的,所述按照排序判断所述候选磁盘的数据重整并发数据是否符合预设数据重整并发条件,具体为:
按照排序判断所述候选磁盘的数据重整并发数量是否小于预设数据重整并发数量上限,且数据重整并发速度是否小于预设数据重整并发速度上限。
可选的,在所述筛选符合预设使用条件和预设数据重整并发条件的磁盘作为目标磁盘之后,还包括:
更新所述目标磁盘的数据重整并发数据。
可选的,所述确定一个待数据重整数据块为目标数据块,具体为:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京金山云网络技术有限公司,未经北京金山云网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011194931.1/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置