[发明专利]基于段单元的分布式存储系统的负载均衡方法和系统有效
申请号: | 202010723910.8 | 申请日: | 2020-07-24 |
公开(公告)号: | CN111596868B | 公开(公告)日: | 2020-10-09 |
发明(设计)人: | 张传印;王中原;陈靓 | 申请(专利权)人: | 南京鹏云网络科技有限公司 |
主分类号: | G06F3/06 | 分类号: | G06F3/06;G06F9/50;G06F11/14 |
代理公司: | 江苏瑞途律师事务所 32346 | 代理人: | 徐倩 |
地址: | 210008 江苏省*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 单元 分布式 存储系统 负载 均衡 方法 系统 | ||
1.一种基于段单元的分布式存储系统的负载均衡方法,用于分布式存储系统中卷的创建、数据迁移和数据恢复,其特征在于:
卷的创建包括:
a1、构建主段单元、从段单元及主段单元和从段单元的组合均衡分布的段列表;所述均衡分布具体是指:(1)同属于一个段的段单元需分布在不同的节点上,且每个节点属于不同的组;(2)同一个段的主段单元和从段单元分别创建在不同的节点上,使主段单元、从段单元及主段单元和从段单元的组合均匀分布在节点上;
a2、从步骤a1的段列表中选取一个段,并在目的节点上创建主段单元和从段单元;
a3、若不能在目的节点上创建主段单元和从段单元,则随机创建一个段,该段的主段单元、从段单元应均衡分布;
当进行数据迁移时,需要进行数据迁移的卷按照卷的创建要求进行创建,数据迁移包括:
b1、如果在某一个节点上的主段单元的实际分布值和期望分布值之间的差额百分比超过阈值X时,则主段单元从该节点迁移到另一个主段单元分布未达到期望分布值的节点,其中,5%≤X≤30%;
b2、如果在某一个节点上的主段单元和从段单元的组合的实际分布值和期望分布值之间的差额百分比超过阈值X时,则将从段单元从该节点迁移到主段单元和从段单元的组合的分布未达到期望分布值的目的节点上,其中,5%≤X≤30%;
当进行数据恢复时,需要进行数据恢复的卷按照卷的创建要求进行创建,数据恢复包括:
c1、在一个段的从段单元中选择一个作为主段单元;
c2、如果所有的段中都有主段单元,且该段中从段单元的数量少于2个时,则重新选择一个节点,在该节点上创建该段的从段单元。
2.根据权利要求1所述的基于段单元的分布式存储系统的负载均衡方法,其特征在于:当进行卷的创建时,如果一个段已经创建了一个主段单元和两个从段单元,还存在其他的节点,该节点与已经创建的一个主段单元和两个从段单元所在的节点均不属于同一组,则给每个从段单元分配不超过2个冗余的从段单元,所述冗余的从段单元分别分布在不同的节点上。
3.根据权利要求1所述的基于段单元的分布式存储系统的负载均衡方法,其特征在于:当进行数据迁移时,所述b1包括以下步骤:
b11、根据节点权重计算所有节点上主段单元的期望分布值;
b12、获取当前所有节点上主段单元的实际分布值,计算所有节点上主段单元的分布率,主段单元的分布率=(主段单元的实际分布值-主段单元的期望分布值)/主段单元的期望分布值;
b13、将主段单元的分布率为正数的节点作为数据迁移的源节点,主段单元的分布率为负数的节点作为数据迁移的目的节点;
b14、遍历卷上的每一个段,查找源节点上分布主段单元、目的节点上分布从段单元的段,将主段单元从源节点迁移到目的节点。
4.根据权利要求1所述的基于段单元的分布式存储系统的负载均衡方法,其特征在于:当进行数据迁移时,所述b2包括以下步骤:
b21、根据节点权重计算每个节点上主段单元和从段单元的组合的期望分布值,同时计算每个节点总的从段单元的期望分布值,其中,主段单元和从段单元的组合的期望分布值为某个节点上分布了主段单元的段,这些段在其他节点上期望分布的从段单元的数量;
b22、获取每个节点上主段单元和从段单元的组合的实际分布值,获取每个节点总的从段单元的实际分布值,计算所有节点上主段单元和从段单元的组合的分布率,主段单元和从段单元的组合的分布率=(主段单元和从段单元的组合的实际分布值-主段单元和从段单元的组合的期望分布值)/主段单元和从段单元的组合的期望分布值,其中,主段单元和从段单元的组合的实际分布值为某个节点上分布了主段单元的段,这些段在其他节点上实际分布的从段单元的数量;
b23、将主段单元和从段单元的组合的分布率为正数的节点作为数据迁移的源节点,将主段单元和从段单元的组合的分布率为负数的节点作为数据迁移的目的节点;如果某两个节点上的主段单元和从段单元的组合的分布率相同,再按照从段单元的实际分布值迁移,将节点上总的从段单元的实际分布值大的节点作为数据迁移的源节点,节点上总的从段单元的实际分布值小的节点作为数据迁移的目的节点;
b24、遍历卷上的每一个段,查找从段单元分布在源节点上,目的节点上未分布段单元的段,将从段单元从源节点迁移到目的节点。
5.一种基于段单元的分布式存储系统,其特征在于:该系统执行如权利要求1-4中任一权利要求所述的基于段单元的分布式存储系统的负载均衡方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南京鹏云网络科技有限公司,未经南京鹏云网络科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010723910.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:漏电检测方法及装置
- 下一篇:指纹识别装置和电子设备