[发明专利]数据迁移方法及装置有效
申请号: | 201811440161.7 | 申请日: | 2018-11-29 |
公开(公告)号: | CN111240580B | 公开(公告)日: | 2022-04-12 |
发明(设计)人: | 陈诗浩 | 申请(专利权)人: | 浙江宇视科技有限公司 |
主分类号: | G06F3/06 | 分类号: | G06F3/06 |
代理公司: | 北京超凡志成知识产权代理事务所(普通合伙) 11371 | 代理人: | 唐维虎 |
地址: | 310000 浙江省杭州市滨江区西兴街道江陵路*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 迁移 方法 装置 | ||
1.一种数据迁移方法,其特征在于,应用于分布式存储系统,所述系统包括多个通信连接的存储节点,所述方法包括:
获取目标数据中各数据分片当前所在存储节点构成的第一集合,以及所述目标数据中各数据分片待迁移至的存储节点构成的第二集合;
检测所述第一集合与所述第二集合的交集的节点数量;
若所述交集的节点数量大于或等于预设的数量阈值,删除所述第一集合中不属于所述交集的存储节点所存储的数据分片;
若所述交集的节点数量小于所述数量阈值,计算所述节点数量与所述数量阈值的差值,从属于所述第一集合但不属于所述交集的存储节点中选择与所述差值相同数量的第一目标节点;
将所述第一目标节点中所存储的数据分片对应迁移到属于所述第二集合但不属于所述交集的存储节点中,并删除所述第一集合中除所述交集及所述第一目标节点之外的存储节点所存储的数据分片。
2.如权利要求1所述的方法,其特征在于,所述检测所述第一集合与所述第二集合的交集的节点数量的步骤,包括:
获取所述第一集合与所述第二集合中各存储节点所对应的节点编号及数据分片顺序编号;
将所述第一集合与所述第二集合中对应节点编号相同且数据分片顺序编号相同的存储节点作为所述第一集合与所述第二集合的交集,得到所述第一集合与所述第二集合的交集的节点数量。
3.如权利要求1所述的方法,其特征在于,所述方法还包括确定所述数量阈值的步骤,该步骤包括:
检测所述目标数据的冗余方式;
在所述冗余方式为多副本时,根据预设副本数量确定所述数量阈值;
在所述冗余方式为纠删码时,根据所述纠删码中的数据块数量确定所述数量阈值。
4.如权利要求1所述的方法,其特征在于,所述从属于所述第一集合但不属于所述交集的存储节点中选择与所述差值相同数量的第一目标节点的步骤,包括:
筛选出属于所述第一集合但不属于所述交集的存储节点;
根据存储节点所对应节点编号的先后顺序,从属于所述第一集合但不属于所述交集的存储节点中选择与所述差值相同数量的存储节点作为待进行数据迁移的第一目标节点。
5.如权利要求1所述的方法,其特征在于,在所述将所述第一目标节点中所存储的数据分片对应迁移到属于所述第二集合但不属于所述交集的存储节点中的步骤之前,所述方法还包括:
筛选出属于所述第二集合但不属于所述交集的存储节点;
根据存储节点所对应节点编号的先后顺序,从属于所述第二集合但不属于所述交集的存储节点中选择与所述差值相同数量的存储节点作为用于存储待迁移数据分片的第二目标节点。
6.如权利要求5所述的方法,其特征在于,所述将所述第一目标节点中所存储的数据分片对应迁移到属于所述第二集合但不属于所述交集的存储节点中的步骤,包括:
根据所述第一目标节点及所述第二目标节点中各存储节点的节点编号的先后顺序将所述第一目标节点中存储的数据分片迁移到对应次序的第二目标节点中。
7.一种数据迁移装置,其特征在于,应用于分布式存储系统,所述系统包括多个通信连接的存储节点,所述装置包括:
获取模块,用于获取目标数据中各数据分片当前所在存储节点构成的第一集合,以及所述目标数据中各数据分片待迁移至的存储节点构成的第二集合;
检测模块,用于检测所述第一集合与所述第二集合的交集的节点数量;
处理模块,用于在所述交集的节点数量大于或等于预设的数量阈值时,删除所述第一集合中不属于所述交集的存储节点所存储的数据分片;以及,
在所述交集的节点数量小于所述数量阈值时,计算所述节点数量与所述数量阈值的差值,从属于所述第一集合但不属于所述交集的存储节点中选择与所述差值相同数量的第一目标节点;
将所述第一目标节点中所存储的数据分片对应迁移到属于所述第二集合但不属于所述交集的存储节点中,并删除所述第一集合中除所述交集及所述第一目标节点之外的存储节点所存储的数据分片。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浙江宇视科技有限公司,未经浙江宇视科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811440161.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种模具加工用除杂装置
- 下一篇:一种有机肥料造粒生产系统的打碎过滤装置
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置