[发明专利]一种数据动态迁移方法及装置有效
申请号: | 201711499303.2 | 申请日: | 2017-12-29 |
公开(公告)号: | CN108259583B | 公开(公告)日: | 2020-05-26 |
发明(设计)人: | 魏文国;夏建兵 | 申请(专利权)人: | 广州云达信息技术有限公司 |
主分类号: | H04L29/08 | 分类号: | H04L29/08;G06F9/50;G06F3/06 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 宋静娜;郝传鑫 |
地址: | 510000 广东省广州市天河区高唐路*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 动态 迁移 方法 装置 | ||
本发明提供一种数据动态迁移方法及装置,该方法包括:获取至少一个数据节点的相对负载值,以及所有数据节点的平均负载值;若数据节点的相对负载值不小于平均负载值,确定数据节点为重负载节点并按照降序排列方式加入重负载节点集合中;否则,确定数据节点为轻负载节点并按照升序排列方式加入轻负载节点集合中;将重负载节点集合中各重负载节点中的数据迁移到轻负载节点集合中各轻负载节点上。本发明能够对各个数据节点的负载进行动态的调整,从而将负载较重的数据节点上的数据动态迁移到负载较轻的数据节点上,从而使云存储系统中的各个数据节点的负载更加均衡。
技术领域
本发明涉及数据存储技术领域,具体涉及一种数据动态迁移方法及装置。
背景技术
随着互联网的高速发展,当今社会所产生的数据量在急速增长。在互联网中的信息数据大多是以高频率的小文件形式表现出来的,且在一般用户的信息存储访问中对小文件的存储访问的操作相对较多。
在云存储系统中,海量的数据存储、高性能、高扩展性是其主要特点,但是当小文件的数量达到一定程度之后,存储海量小文件会对数据节点带来巨大的内存空间的压力,对海量小文件的频繁且重复的访问也会给数据节点带来性能及负载均衡方面的影响。
在云存储系统中,当各数据节点在经过一段时间的运行之后,小文件的频繁访问会导致数据节点的负载出现不均衡的情况。并且,当云存储系统中存储了海量小文件时,对各数据节点进行负载均衡时需要对大量小文件执行迁移操作,如果迁移的目标选择不合理的时候,大规模的小文件迁移操作将会导致更多的网络带宽消耗。
发明内容
本发明提供一种数据动态迁移方法及装置,以解决现有技术中海量小文件的频繁访问会导致数据节点的负载出现不均衡,且在迁移操作时会导致更多的网络带宽消耗的问题。
第一方面,本发明实施例提供一种数据动态迁移方法,包括:
获取至少一个数据节点的相对负载值,以及所有数据节点的平均负载值;
若所述数据节点的相对负载值不小于所述平均负载值,确定所述数据节点为重负载节点并按照降序排列方式加入重负载节点集合中;否则,确定所述数据节点为轻负载节点并按照升序排列方式加入轻负载节点集合中;
将所述重负载节点集合中各所述重负载节点中的数据迁移到所述轻负载节点集合中各所述轻负载节点上。
作为本发明第一方面的优选方式,所述将所述重负载节点集合中各所述重负载节点中的数据迁移到所述轻负载节点集合中各所述轻负载节点上包括:
读取所述重负载节点集合中排在前面的重负载节点,并将所述排在前面的重负载节点中的数据块按照负载值降序排列的方式加入数据块队列中,然后依次将所述数据块队列中排在前面的数据块的负载值添加到所述轻负载节点集合中排在前面的轻负载节点上;
若所述排在前面的轻负载节点的相对负载值小于所述平均负载值,则将所述排在前面的数据块迁移到所述排在前面的轻负载节点上,并将所述排在前面的数据块从所述数据块队列中删除;否则,继续执行读取所述数据块队列中排在前面的数据块的步骤,直到所述排在前面的重负载节点的相对负载值小于所述平均负载值或者所述排在前面的轻负载节点的相对负载值不小于所述平均负载值,则对应从所述重负载节点集合或者所述轻负载节点集合中删除;
判断所述重负载节点集合或者所述轻负载节点集合是否为空;若否,则继续执行读取所述重负载节点集合中排在前面的重负载节点的步骤。
作为本发明第一方面的优选方式,所述将所述数据块队列中排在前面的数据块的负载值添加到所述轻负载节点集合中排在前面的轻负载节点上包括:
读取所述数据块队列中排在前面的数据块;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州云达信息技术有限公司,未经广州云达信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201711499303.2/2.html,转载请声明来源钻瓜专利网。
- 上一篇:定位系统及方法
- 下一篇:一种云存储服务方的任务策略控制方法
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置