[发明专利]集群间数据转移的方法和装置在审
申请号: | 201911199847.6 | 申请日: | 2019-11-29 |
公开(公告)号: | CN112883103A | 公开(公告)日: | 2021-06-01 |
发明(设计)人: | 祝江华 | 申请(专利权)人: | 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司 |
主分类号: | G06F16/27 | 分类号: | G06F16/27;G06F16/25 |
代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 李阳;郭晗 |
地址: | 100086 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 集群 数据 转移 方法 装置 | ||
本发明公开了一种集群间数据转移的方法和装置,涉及计算机技术领域。该方法的一具体实施方式包括:通过监控机构建立源集群和目标集群的关联;源集群向监控机构发送待转移的数据信息;目标集群通过监控机构获取待转移的数据信息,并创建用于保存待转移数据的目标表,将目标表信息发送给监控机构;源集群通过监控机构获取目标表信息,然后将待转移数据发送给目标表。该实施方式解决了由于人工操作带来的操作繁琐,易出错等问题,大大提升了运维人员的处理效率。
技术领域
本发明涉及计算机技术领域,尤其涉及一种集群间数据转移的方法和装置。
背景技术
在HBase(一种基于多台服务器的分布式数据库)的实际应用中,通常会部署多个HBase集群(一个集群通常有多台服务器),有时为了减轻某个集群的访问压力,需要将这个集群上的部分业务迁移到其他压力较小的集群上。在这个过程中,保证数据正常(即不丢数据)、稳定,就是非常重要的。这个过程称之为集群间的数据流动或数据转移。
现有集群间的数据转移主要是通过人工操作处理的方法来进行的。通过将源集群的数据打包并生成快照,然后人工通过命令的方式将数据快照发送给目标集群并使目标集群开启对外服务,最后,人工通过命令的方式删除源集群中的相关数据来实现集群间的数据转移。
在实现本发明过程中,发明人发现现有技术中至少存在如下问题:
人工操作过程中,过程比较繁琐;且通过人工操作,可能会由于操作失误,而导致失败发生。
发明内容
有鉴于此,本发明实施例提供一种集群间数据转移的方法和装置,能够解决由于人工操作带来的操作繁琐,易出错等问题,大大提升了运维人员的处理效率。
为实现上述目的,根据本发明实施例的一个方面,提供了一种集群间数据转移的方法。
一种集群间数据转移的方法,包括:通过监控机构建立源集群和目标集群的关联;所述源集群向所述监控机构发送待转移的数据信息;所述目标集群通过所述监控机构获取所述待转移的数据信息,并创建用于保存待转移数据的目标表,将所述目标表信息发送给所述监控机构;所述源集群通过所述监控机构获取所述目标表信息,然后将所述待转移数据发送给所述目标表。
可选地,通过监控机构建立源集群和目标集群的关联包括:通过在所述监控机构上创建第一瞬时节点来标识所述源集群和所述目标集群建立关联。
可选地,所述源集群向所述监控机构发送待转移的数据信息包括:所述源集群通过命令解析器命令或调用对外接口的方式,向所述监控机构发送待转移的数据信息。
可选地,所述源集群向所述监控机构发送待转移的数据信息之后,还包括:所述监控机构创建第二瞬时节点用于保存所述待转移的数据信息,所述待转移的数据信息包括目标集群标识;并且,所述目标集群通过所述监控机构获取所述待转移的数据信息包括:所述目标集群通过监听所述监控机构上与所述目标集群相关的第二瞬时节点以获取所述待转移的数据信息。
可选地,所述源集群将所述待转移数据发送给所述目标表包括:所述源集群通过远程过程调用的方式,将所述待转移数据按照所述源集群与所述目标集群之间的互信协议异步发送给所述目标表。
可选地,所述监控机构监控所述源集群和所述目标集群的状态,以及所述源集群转移的数据位置和所述目标集群接收的数据位置,并且,在数据转移过程中,若发生集群中节点状态异常,则所述监控机构通知发生节点状态异常的集群使用其他节点进行重试。
可选地,所述方法还包括:当数据转移完成后,所述源集群删除所述待转移数据并向所述监控机构上报删除完成信息;所述目标集群通过所述监控机构获取到所述源集群上报的删除完成信息,并提供对所述待转移数据的服务;通过所述监控机构断开所述源集群与所述目标集群的关联。
根据本发明实施例的另一方面,提供了一种集群间数据转移的装置。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911199847.6/2.html,转载请声明来源钻瓜专利网。
- 上一篇:磺化抽余油的脱钠方法
- 下一篇:半导体结构的制备方法
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置