[发明专利]数据存储方法、装置和系统有效

专利信息
申请号: 201810214998.3 申请日: 2018-03-15
公开(公告)号: CN108363813B 公开(公告)日: 2020-06-02
发明(设计)人: 姜彦国 申请(专利权)人: 北京星选科技有限公司
主分类号: G06F16/21 分类号: G06F16/21;G06F16/245;G06F16/27
代理公司: 北京睿派知识产权代理事务所(普通合伙) 11597 代理人: 刘锋
地址: 100085 北京市海淀区*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 数据 存储 方法 装置 系统
【说明书】:

本申请提供了一种数据存储方法、装置和系统,该方法包括:在分布式数据库系统中存储每条数据记录对应的时间戳;根据当前时间和时间戳判定成为冷数据的数据记录;将所述被判定成为冷数据的数据记录从分布式数据库系统迁移至数据库中间件集群进行存储。减少分布式数据库系统的扩容成本和维护成本,防止分布式数据库系统架构越来越庞大和复杂。

技术领域

本申请涉及数据库技术,具体涉及一种数据存储方法、装置和系统。

背景技术

分布式数据库系统(Distributed DataBase System,DDBS)包含分布式数据库管理系统(Distributed Database Management System,DDBMS)和分布式数据库(Distributed DataBase,DDB)。

在DDBS中,一个应用程序可以对DDB进行透明操作,DDB中的数据分别在不同的局部数据库中存储、由不同的DDBMS进行管理、在不同的机器上运行、由不同的操作系统支持、被不同的通信网络连接在一起,把写流量分发到多个分片数据库集群,用于解决读、写流量过高单机集群无法承载的性能问题,同时提供读、写流量分离的功能以及读流量自动负载均衡的功能。

DBProxy是一套用于提供关系型数据库读写分离功能的中间件软件,采用MySQL交互协议,对上游应用层透明。提供关系型数据库层面的SQL语句读写分离、负载均衡、连接池、高并发连接、会话状态保持、安全控制、节点存活检测、高容错等功能。

如果用DDBS对冷数据和热数据按1:1的方案做分离,每次拆分扩容时都需要再增加一倍的设备,使得DDBS的架构越来越复杂,每次扩容的成本也会越来越高。

发明内容

本申请实施例提供了一种数据存储方法、装置和系统,以解决现有技术中DDBS扩容成本过高的技术问题。

根据本申请实施例的一个方面,提供了一种数据存储方法,所述方法包括:在分布式数据库系统中存储每条数据记录对应的时间戳;根据当前时间和所述时间戳判定成为冷数据的数据记录;将所述被判定成为冷数据的数据记录从分布式数据库系统迁移至数据库中间件集群进行存储。

在一个实施例中,将所述被判定成为冷数据的数据记录从分布式数据库系统迁移至数据库中间件集群进行存储包括:

从所述分布式数据库系统中查询被判定成为冷数据的数据记录;调用所述分布式数据库系统将查询到的数据记录发送至所述数据库中间件集群,由所述数据库中间件集群对查询到的数据记录进行压缩存储。

在一个实施例中,所述分布式数据库系统中还存储数据记录状态表,用于保存数据记录的类型和状态,数据记录的初始类型均为热数据,初始状态均为未迁移;将所述被判定成为冷数据的数据记录从分布式数据库系统迁移至数据库中间件集群进行存储还包括:

调用所述分布式数据库系统将所述数据记录的类型修改为冷数据,状态修改为迁移中。

优选的,所述方法还包括:在所述数据记录向所述数据库中间件集群完成迁移之后,调用所述分布式数据库系统将所述数据记录的状态修改为已迁移。

在一个实施例中,调用所述分布式数据库系统将查询到的数据记录发送至所述数据库中间件集群,由所述数据库中间件集群对查询到的数据记录进行压缩存储包括:

调用所述分布式数据库系统将查询到的数据记录发送至DBProxy集群,由所述DBProxy集群对查询到的数据记录通过TokuDB存储引擎进行压缩存储。

在一个实施例中,所述方法还包括:

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京星选科技有限公司,未经北京星选科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201810214998.3/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code