[发明专利]一种基于分布式存储系统的数据均衡方法及装置在审
申请号: | 202111399779.5 | 申请日: | 2021-11-19 |
公开(公告)号: | CN114047883A | 公开(公告)日: | 2022-02-15 |
发明(设计)人: | 张艺茹 | 申请(专利权)人: | 北京天融信网络安全技术有限公司;北京天融信科技有限公司;北京天融信软件有限公司 |
主分类号: | G06F3/06 | 分类号: | G06F3/06 |
代理公司: | 北京超凡宏宇专利代理事务所(特殊普通合伙) 11463 | 代理人: | 蒋姗 |
地址: | 100000 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 分布式 存储系统 数据 均衡 方法 装置 | ||
本申请提供一种基于分布式存储系统的数据均衡方法及装置,该方法包括:获取磁盘均衡边界值、存储主机的主机参数、存储主机中磁盘的磁盘参数、磁盘中数据块的数量、数据块的置备容量和数据块的使用容量;根据预设的磁盘期望权重计算公式、主机参数和磁盘参数进行计算,得到磁盘期望权重比例;根据预设的磁盘实际权重计算公式、数据块的数量、数据块的置备容量和数据块的使用容量进行计算,得到磁盘实际权重比例;根据磁盘均衡边界值、磁盘期望权重比例和磁盘实际权重比例进行计算,得到迁移方案;根据迁移方案对磁盘中的数据块进行数据迁移。可见,该方法能够针对于不同的设备参数进行适应性存储,从而提高存储节点的利用率。
技术领域
本申请涉及数据处理领域,具体而言,涉及一种基于分布式存储系统的数据均衡方法及装置。
背景技术
现有的分布式存储系统中,存储主机的磁盘负载过高时会影响IO读写速度。为了避免这样的问题发生,往往会采用增加存储节点来均衡原有磁盘负载的数据量的方法,从而降低原有存储节点的压力。其中,现有的增加存储节点的方式是新加一些新的存储节点,以使所有存储节点均分原有磁盘负载的数据量。然而,在实践中发现,分布式存储系统中往往会存在较多种类的存储节点,而这些存储节点的设备参数并不完全一致,采用现有的这种方法只能提高存储容量,并不能提高存储的质量。也就是说,现有的方法中没有办法针对于不同的设备参数进行适应性存储,从而导致现有的方法不得不使用更多的存储节点,进而导致了存储节点的利用率下降。
发明内容
本申请实施例的目的在于提供一种基于分布式存储系统的数据均衡方法及装置,能够针对于不同的设备参数进行适应性存储,从而提高存储节点的利用率。
本申请实施例第一方面提供了一种基于分布式存储系统的数据均衡方法,包括:
获取磁盘均衡边界值、存储主机的主机参数、所述存储主机中磁盘的磁盘参数、所述磁盘中数据块的数量、所述数据块的置备容量和所述数据块的使用容量;
根据预设的磁盘期望权重计算公式、所述主机参数和所述磁盘参数进行计算,得到磁盘期望权重比例;
根据预设的磁盘实际权重计算公式、所述数据块的数量、所述数据块的置备容量和所述数据块的使用容量进行计算,得到磁盘实际权重比例;
根据所述磁盘均衡边界值、所述磁盘期望权重比例和所述磁盘实际权重比例进行计算,得到迁移方案;
根据所述迁移方案对所述磁盘中的数据块进行数据迁移。
在上述实现过程中,首先要了解分布式存储系统对应一个保护域,一个保护域中包括多个存储主机,每个存储主机又包括多个磁盘,每个磁盘有包括多个数据块。在此基础上,该方法将分布式存储系统中的所有硬件信息和存储信息提出取来,然后根据该些信息进行计算,得到理论存放比例和当前存放比例,然后根据该两个存放比例进行计算规划得到相应的迁移方案,以使该方法能够根据该迁移方案进行迁移。可见,实施这种实施方式,能够在获取分布式存储系统的相关信息的过程中获取所有硬件信息,而该些硬件信息大多互不相同,这就使得该方法能够适用于该种系统中进行数据均衡,尤其是当加入新的存储主机或磁盘时,该方法可以无视存储主机和磁盘的硬件参数进行数据均衡,从而提高数据均衡的适应性,提高存储节点的利用率。
进一步地,所述分布式存储系统包括多个存储主机,每个存储主机的主机参数包括CPU主频和内存容量;每个存储主机包括多个磁盘,每个磁盘的磁盘参数包括磁盘总容量;每个磁盘包括多个数据块。
进一步地,所述磁盘期望权重计算公式为
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京天融信网络安全技术有限公司;北京天融信科技有限公司;北京天融信软件有限公司,未经北京天融信网络安全技术有限公司;北京天融信科技有限公司;北京天融信软件有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111399779.5/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种大型多舱室气囊应急防护装置
- 下一篇:降噪模型训练方法、装置及存储介质
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置