[发明专利]一种存储数据的方法和数据库在审
申请号: | 201910430923.3 | 申请日: | 2019-05-22 |
公开(公告)号: | CN110134723A | 公开(公告)日: | 2019-08-16 |
发明(设计)人: | 魏毓航;王维栋;赵垠兰;黄晋;梁翠仪 | 申请(专利权)人: | 网易(杭州)网络有限公司 |
主分类号: | G06F16/2458 | 分类号: | G06F16/2458;G06F16/25;G06F16/27 |
代理公司: | 北京润泽恒知识产权代理有限公司 11319 | 代理人: | 莎日娜 |
地址: | 310052 浙江省杭州*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 热数据 数据源 冷数据 唯一标识码 时序数据 时间戳 数据库 储存条件 存储数据 数据库同步 分开存储 分离存储 数据读写 生成热 冷热 存储 采集 压缩 携带 转化 | ||
本发明实施例提供了一种存储数据的方法和数据库,所述方法包括:采集时序数据,并将所述时序数据转化为指定类型的数据源;其中,所述数据源包括生成所述时序数据的时间戳;生成所述数据源的唯一标识码;存储所述数据源到热数据库,并对所述数据源进行压缩生成热数据;所述热数据携带所述时间戳和唯一标识码;采用所述时间戳判断所述热数据是否满足冷数据储存条件;若是,则根据所述唯一标识码将满足所述冷数据储存条件的所述热数据从所述热数据库同步到冷数据库,以使所述热数据与所述冷数据分开存储。从而通过将冷数据和热数据的分离存储和处理,实现了极致的冷热数据读写性能。
技术领域
本发明涉及数据处理技术领域,特别是涉及一种存储数据的方法和一种存储数据的数据库。
背景技术
时序数据用于描述一个物体在历史的时间维度上的状态变化信息,随着物联网、大数据和人工智能等技术的发展,时序数据也呈一个爆发式的增长。而为了更好的支持这类数据的存储和分析,在市场上衍生出了多种多样的新兴的数据库产品。这类数据库产品的发明都是为了解决传统关系型数据库在对时序数据的存储和分析上的不足和缺陷,这类数据库产品被统一归类为时序数据库。
然而目前,开源的时序数据库,在满足时序数据的基本要求上仍略显不足,如在数据读写性能及数据存储时长上,均不能满足监控平台日益增长的数据量需求。而且随着游戏业务的发展和各类基础设施的兴起,游戏监控平台面临着异构的数据模型场景,除了上面提到的时序数据库基本要求,满足任意类型数据的接入也成为了一大难题。但是,已有的数据库产品仅能支持固定的几种数据类型的数据的接入,而不能接入任意类型的数据。
发明内容
鉴于上述问题,提出了本发明实施例以便提供一种克服上述问题或者至少部分地解决上述问题的一种存储数据的方法和相应的一种存储数据的数据库。
为了解决上述问题,本发明实施例公开了一种存储数据的方法,包括:
采集时序数据,并将所述时序数据转化为指定类型的数据源;其中,所述数据源包括生成所述时序数据的时间戳;
生成所述数据源的唯一标识码;
存储所述数据源到热数据库,并对所述数据源进行压缩生成热数据;所述热数据携带所述时间戳和唯一标识码;
采用所述时间戳判断所述热数据是否满足冷数据储存条件;若是,则根据所述唯一标识码将满足所述冷数据储存条件的所述热数据从所述热数据库同步到冷数据库,以使所述热数据与所述冷数据分开存储。
可选的,所述方法还包括:
生成所述数据源的数据索引,其中,所述数据索引与对应的数据源分开存储;
采用所述数据索引进行热数据和冷数据查询。
可选的,所述采用所述时间戳判断所述热数据是否满足冷数据储存条件,包括:
确定所述热数据的存储时间;
采用所述存储时间更新所述热数据对应实体的更新时间;
采用所述时间戳和所述更新时间,判断所述热数据是否满足冷数据储存条件。
可选的,所述采用所述时间戳和所述更新时间,判断所述热数据是否满足冷数据储存条件,包括:
获取服务器当前时间;
当所述服务器当前时间与所述时间戳的差值大于预设保存时限,并且,所述服务器当前时间与所述更新时间的差值大于预设超时时限时,则判定所述热数据满足冷数据储存条件。
可选的,在所述存储所述数据源到热数据库,并对所述数据源进行压缩生成热数据之后,还包括:
生成所述热数据的索引;
持久化所述热数据的索引到所述热数据库。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于网易(杭州)网络有限公司,未经网易(杭州)网络有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910430923.3/2.html,转载请声明来源钻瓜专利网。