[发明专利]ES集群的数据迁移方法、系统、电子设备及存储介质在审
申请号: | 202111354551.4 | 申请日: | 2021-11-16 |
公开(公告)号: | CN114036105A | 公开(公告)日: | 2022-02-11 |
发明(设计)人: | 蒋蕾;刘阳阳;白磊;田高帆 | 申请(专利权)人: | 武汉紫阑信息技术有限公司 |
主分类号: | G06F16/11 | 分类号: | G06F16/11 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 刘珂 |
地址: | 430223 湖北省武汉市武汉东湖新技术开发区*** | 国省代码: | 湖北;42 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | es 集群 数据 迁移 方法 系统 电子设备 存储 介质 | ||
本申请公开了一种ES集群的数据迁移方法,所述方法包括:若接收到数据迁移指令,则根据所述数据迁移指令确定ES源集群,并查询与所述ES源集群关联的客户端;向所述客户端发起双写指令,以便控制所述客户端将所述ES源集群的增量数据写入目标位置;控制所述ES源集群生成索引的快照数据;根据所述快照数据在ES目标集群进行快照重建,并根据所述增量数据对所述ES目标集群执行增量数据重放操作,以便完成数据迁移,本申请能够在保证数据完整性的前提下实现ES集群的在线数据迁移。本申请还公开了一种ES集群的数据迁移系统、一种电子设备及一种存储介质,具有以上有益效果。
技术领域
本申请涉及数据迁移技术领域,特别涉及ES集群的数据迁移方法、系统、电子设备及存储介质。
背景技术
ES(Elasticsearch)是一款开源的用于搜索的组件。在实际使用中,ES的索引由于各种各样的原因需要做集群间的数据迁移,比如从大集群中迁移到单独的集群、大的集群版本升级、源集群硬件老化等。
由于ES集群中随时可能收到客户端发送的请求,为了保证数据完整性,相关技术中需要在ES集群停机的情况下进行离线的数据迁移,离线数据迁移影响搜索服务的正常运行。
因此,如何在保证数据完整性的前提下实现ES集群的在线数据迁移是本领域技术人员目前需要解决的技术问题。
发明内容
本申请的目的是提供一种ES集群的数据迁移方法、系统、电子设备及存储介质,能够在保证数据完整性的前提下实现ES集群的在线数据迁移。
为解决上述技术问题,本申请提供一种ES集群的数据迁移方法,该ES集群的数据迁移方法包括:
若接收到数据迁移指令,则根据所述数据迁移指令确定ES源集群,并查询与所述ES源集群关联的客户端;
向所述客户端发起双写指令,以便控制所述客户端将所述ES源集群的增量数据写入目标位置;
控制所述ES源集群生成索引的快照数据;
根据所述快照数据在ES目标集群进行快照重建,并根据所述增量数据对所述ES目标集群执行增量数据重放操作,以便完成数据迁移。
可选的,根据所述增量数据对所述ES目标集群执行增量数据重放操作,包括:
查询所述ES源集群记录的所述客户端的请求发起顺序,按照所述请求发起顺序对所述ES目标集群执行所述增量数据对应的增量数据重放操作。
可选的,在向所述客户端发起双写指令之后,还包括:
判断所述客户端是否返回双写功能开启的响应信息;
若是,则执行所述控制所述ES源集群生成索引的快照数据的步骤。
可选的,在根据所述增量数据对所述ES目标集群执行增量数据重放操作之后,还包括:
查询所述增量数据的剩余数据量;其中,所述剩余数据量用于描述所述增量数据中未进行增量数据重放操作的数据大小;
判断所述剩余数据量是否大于0且小于配置值;
若是,则向所述客户端发起停止索引请求的api调用,以便阻塞所述客户端的请求。
可选的,在向所述客户端发起停止索引请求的api调用之后,还包括:
判断所述增量数据是否全部重放完毕;
若是,则将所述客户端指向的集群由所述ES源集群切换至所述ES目标集群。
可选的,在将所述客户端指向的集群由所述ES源集群切换至所述ES目标集群之后,还包括:
解除对所述客户端的请求的阻塞。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于武汉紫阑信息技术有限公司,未经武汉紫阑信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111354551.4/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置