[发明专利]数据分布式存储方法、装置、电子设备及存储介质在审
申请号: | 202010608688.7 | 申请日: | 2020-06-29 |
公开(公告)号: | CN111782634A | 公开(公告)日: | 2020-10-16 |
发明(设计)人: | 高新刚 | 申请(专利权)人: | 京东数字科技控股有限公司 |
主分类号: | G06F16/21 | 分类号: | G06F16/21;G06F16/22;G06F16/27 |
代理公司: | 北京华夏泰和知识产权代理有限公司 11662 | 代理人: | 卢万腾;曾军 |
地址: | 100176 北京市大兴区北京经*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 分布式 存储 方法 装置 电子设备 介质 | ||
1.一种数据分布式存储方法,其特征在于,所述方法包括:
获取数据库建库条件,根据所述数据库建库条件执行相应数据库建库指令,建立多个主数据库以及与每个主数据库对应的多个备数据库;
从所述主数据库中确定待建立数据库表的目标主数据库,以及从所述备数据库中确定与所述目标主数据库对应的目标备数据库;
获取数据库表建表条件,根据所述数据库表建表条件执行相应数据库表建表指令,在所述目标主数据库以及所述目标备数据库中分别建立数据库表;
获取待存储数据,将所述待存储数据存储至所述目标主数据库中的所述数据库表上;
基于预设数据一致性算法将所述目标主数据库中的所述数据库表上存储的所述待存储数据同步至所述目标备数据库中的所述数据库表上。
2.根据权利要求1所述的方法,其特征在于,所述获取数据库表建表条件,根据所述数据库表建表条件执行相应数据库表建表指令,在所述目标主数据库以及所述目标备数据库中分别建立数据库表,包括:
获取数据库表建表条件,其中,所述数据库表建表条件包括业务逻辑拆分规则以及选择的主键类型;
根据所述业务逻辑拆分规则确定数据库表类型,执行与所述数据库表类型对应的数据库表建表指令;
在所述目标主数据库以及所述目标备数据库分别建立与所述主键类型对应的数据库表。
3.根据权利要求1所述的方法,其特征在于,所述将所述待存储数据存储至所述目标主数据库中的所述数据库表上之前,所述方法还包括:
判断所述目标主数据库中的所述数据库表上已存储数据对应的数量是否小于预设阈值;
若所述目标主数据库中的所述数据库表上已存储数据对应的数量小于预设阈值,则执行所述将所述待存储数据存储至所述目标主数据库中的所述数据库表上的步骤。
4.根据权利要求3所述的方法,其特征在于,所述方法还包括:
若所述目标主数据库中的所述数据库表上已存储数据对应的数量等于预设阈值,则从所述主数据库中确定待建立数据库表的新的目标主数据库,以及从所述备数据库中确定与所述新的目标主数据库对应的新的目标备数据库;
根据所述数据库表建表条件执行相应数据库表建表指令,在所述新的目标主数据库以及所述新的目标备数据库中分别建立新的数据库表;
将所述待存储数据存储至所述新的目标主数据库中的所述新的数据库表上;
基于预设数据一致性算法将所述新的目标主数据库中的所述新的数据库表上存储的所述待存储数据同步至所述新的目标备数据库中的所述新的数据库表上。
5.根据权利要求1所述的方法,其特征在于,所述基于预设数据一致性算法将所述目标主数据库中的所述数据库表上存储的所述待存储数据同步至所述目标备数据库中的所述数据库表上,包括:
基于Raft算法将所述目标主数据库中的所述数据库表上存储的所述待存储数据同步至所述目标备数据库中的所述数据库表上。
6.根据权利要求1至5任一项所述的方法,其特征在于,所述方法还包括:
获取数据插入指令,并解析所述插入指令中携带的数据库表标识、主键键值、唯一约束和二级索引;
确定创建所述数据库表标识对应的数据库表所选择的主键类型;
以所述唯一约束为约束条件,根据所选择的主键类型对所述数据插入指令中携带的所述主键键值进行主键防重规则校验;
若所述数据插入指令中携带的所述主键键值通过主键防重规则校验,则根据所述数据库表标识、所述主键键值以及所述二级索引插入所述插入指令中携带的数据,并存储在插入所述插入指令中携带的数据的过程中产生的元数据;
基于预设数据一致性算法将所述插入指令中携带的数据以及所述元数据进行同步。
7.根据权利要求1所述的方法,其特征在于,所述以所述唯一约束为约束条件,根据所选择的主键类型对所述数据插入指令中携带的所述主键键值进行主键防重规则校验,包括:
以所述唯一约束为约束条件,根据所选择的主键类型运行布隆过滤器,对所述数据插入指令中携带的所述主键键值进行主键防重规则校验。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于京东数字科技控股有限公司,未经京东数字科技控股有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010608688.7/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置