[发明专利]数据存储方法、装置和系统有效
申请号: | 201810214998.3 | 申请日: | 2018-03-15 |
公开(公告)号: | CN108363813B | 公开(公告)日: | 2020-06-02 |
发明(设计)人: | 姜彦国 | 申请(专利权)人: | 北京星选科技有限公司 |
主分类号: | G06F16/21 | 分类号: | G06F16/21;G06F16/245;G06F16/27 |
代理公司: | 北京睿派知识产权代理事务所(普通合伙) 11597 | 代理人: | 刘锋 |
地址: | 100085 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 存储 方法 装置 系统 | ||
本申请提供了一种数据存储方法、装置和系统,该方法包括:在分布式数据库系统中存储每条数据记录对应的时间戳;根据当前时间和时间戳判定成为冷数据的数据记录;将所述被判定成为冷数据的数据记录从分布式数据库系统迁移至数据库中间件集群进行存储。减少分布式数据库系统的扩容成本和维护成本,防止分布式数据库系统架构越来越庞大和复杂。
技术领域
本申请涉及数据库技术,具体涉及一种数据存储方法、装置和系统。
背景技术
分布式数据库系统(Distributed DataBase System,DDBS)包含分布式数据库管理系统(Distributed Database Management System,DDBMS)和分布式数据库(Distributed DataBase,DDB)。
在DDBS中,一个应用程序可以对DDB进行透明操作,DDB中的数据分别在不同的局部数据库中存储、由不同的DDBMS进行管理、在不同的机器上运行、由不同的操作系统支持、被不同的通信网络连接在一起,把写流量分发到多个分片数据库集群,用于解决读、写流量过高单机集群无法承载的性能问题,同时提供读、写流量分离的功能以及读流量自动负载均衡的功能。
DBProxy是一套用于提供关系型数据库读写分离功能的中间件软件,采用MySQL交互协议,对上游应用层透明。提供关系型数据库层面的SQL语句读写分离、负载均衡、连接池、高并发连接、会话状态保持、安全控制、节点存活检测、高容错等功能。
如果用DDBS对冷数据和热数据按1:1的方案做分离,每次拆分扩容时都需要再增加一倍的设备,使得DDBS的架构越来越复杂,每次扩容的成本也会越来越高。
发明内容
本申请实施例提供了一种数据存储方法、装置和系统,以解决现有技术中DDBS扩容成本过高的技术问题。
根据本申请实施例的一个方面,提供了一种数据存储方法,所述方法包括:在分布式数据库系统中存储每条数据记录对应的时间戳;根据当前时间和所述时间戳判定成为冷数据的数据记录;将所述被判定成为冷数据的数据记录从分布式数据库系统迁移至数据库中间件集群进行存储。
在一个实施例中,将所述被判定成为冷数据的数据记录从分布式数据库系统迁移至数据库中间件集群进行存储包括:
从所述分布式数据库系统中查询被判定成为冷数据的数据记录;调用所述分布式数据库系统将查询到的数据记录发送至所述数据库中间件集群,由所述数据库中间件集群对查询到的数据记录进行压缩存储。
在一个实施例中,所述分布式数据库系统中还存储数据记录状态表,用于保存数据记录的类型和状态,数据记录的初始类型均为热数据,初始状态均为未迁移;将所述被判定成为冷数据的数据记录从分布式数据库系统迁移至数据库中间件集群进行存储还包括:
调用所述分布式数据库系统将所述数据记录的类型修改为冷数据,状态修改为迁移中。
优选的,所述方法还包括:在所述数据记录向所述数据库中间件集群完成迁移之后,调用所述分布式数据库系统将所述数据记录的状态修改为已迁移。
在一个实施例中,调用所述分布式数据库系统将查询到的数据记录发送至所述数据库中间件集群,由所述数据库中间件集群对查询到的数据记录进行压缩存储包括:
调用所述分布式数据库系统将查询到的数据记录发送至DBProxy集群,由所述DBProxy集群对查询到的数据记录通过TokuDB存储引擎进行压缩存储。
在一个实施例中,所述方法还包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京星选科技有限公司,未经北京星选科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810214998.3/2.html,转载请声明来源钻瓜专利网。
- 上一篇:实现预标注的方法及装置
- 下一篇:标签设置方法、服务器及标签设置系统
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置