[发明专利]数据查询方法、非易失性存储介质及电子设备有效
申请号: | 202110130762.3 | 申请日: | 2021-01-29 |
公开(公告)号: | CN113312313B | 公开(公告)日: | 2023-09-29 |
发明(设计)人: | 胡建洪;吴兴博;张友东;杨成虎 | 申请(专利权)人: | 淘宝(中国)软件有限公司 |
主分类号: | G06F16/14 | 分类号: | G06F16/14;G06F16/13 |
代理公司: | 北京博浩百睿知识产权代理有限责任公司 11134 | 代理人: | 赵昀彬 |
地址: | 311100 浙*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 查询 方法 非易失性 存储 介质 电子设备 | ||
本申请公开了一种数据查询方法、非易失性存储介质及电子设备。其中,该方法包括:对时序数据进行预处理,并将处理后的上述时序数据存储至目标文件,其中,上述目标文件采用按块方式存储上述时序数据;获取上述时序数据查询条件,其中,上述时序数据查询条件包括:时序键标识、域名称以及第一时间范围;基于上述时序数据查询条件对目标文件执行查询操作,得到查询结果,其中,上述目标文件采用按块方式存储时序数据并设置有多级层次索引结构;返回上述查询结果。本申请解决了现有技术中存在针对时序数据的查询内存消耗及查询延迟高,查询效率低下的技术问题。
技术领域
本申请涉及数据查询领域,具体而言,涉及一种数据查询方法、非易失性存储介质及电子设备。
背景技术
随着5G/IoT技术的高速发展,网络数据呈爆炸式增长,其中,物联网(IoT)与应用性能监控(APM)等是时序数据最典型的应用领域,海量的设备持续产生运行时指标数据,对数据的读写、存储管理都提出了很大的挑战。
例如,现有技术中InfluxDB的TSM文件格式关于时序数据的文件数据组织方法,在查询时需要将索引部分全部加载至内存中,不支持多级分层索引,当文件较大或者文件数较多时,内存的大小会成为查询的瓶颈;用于构建索引的Key的长度不固定且长度通常较长,需要使用冗余的字段KeyLength来表示Key的长度,会导致索引部分占用的磁盘空间占用高;当在一个文件中查询不存在的时序数据时,也要查询索引导致查询效率较低且查询内存消耗高,没有使用最小Key和最大key以及布隆过滤器等方式来提高无效文件的过滤效率;不支持在时序列式压缩的基础上支持通用块压缩,导致数据的压缩效率较低。
针对上述的问题,目前尚未提出有效的解决方案。
发明内容
本申请实施例提供了一种数据查询方法、非易失性存储介质及电子设备,以至少解决现有技术中存在针对时序数据的查询内存消耗及查询延迟高,查询效率低下的技术问题。
根据本申请实施例的一个方面,提供了一种数据查询方法,包括:对时序数据进行预处理,并将处理后的上述时序数据存储至目标文件,其中,上述目标文件采用按块方式存储上述时序数据;获取上述时序数据查询条件,其中,上述时序数据查询条件包括:时序键标识、域名称以及第一时间范围;基于上述时序数据查询条件对目标文件执行查询操作,得到查询结果,其中,上述目标文件采用按块方式存储时序数据并设置有多级层次索引结构;返回上述查询结果。
根据本申请实施例的另一方面,还提供了一种非易失性存储介质,上述非易失性存储介质包括存储的程序,其中,在上述程序运行时控制上述非易失性存储介质所在设备执行任意一项上述的数据查询方法。
根据本申请实施例的另一方面,还提供了一种电子设备,包括:处理器;以及存储器,与上述处理器连接,用于为上述处理器提供处理以下处理步骤的指令:对时序数据进行预处理,并将处理后的上述时序数据存储至目标文件,其中,上述目标文件采用按块方式存储上述时序数据;获取上述时序数据查询条件,其中,上述时序数据查询条件包括:时序键标识、域名称以及第一时间范围;基于上述时序数据查询条件对目标文件执行查询操作,得到查询结果,其中,上述目标文件采用按块方式存储时序数据并设置有多级层次索引结构;返回上述查询结果。
在本申请实施例中,通过对时序数据进行预处理,并将处理后的上述时序数据存储至目标文件,其中,上述目标文件采用按块方式存储上述时序数据;获取上述时序数据查询条件,其中,上述时序数据查询条件包括:时序键标识、域名称以及第一时间范围;基于上述时序数据查询条件对目标文件执行查询操作,得到查询结果,其中,上述目标文件采用按块方式存储时序数据并设置有多级层次索引结构;返回上述查询结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于淘宝(中国)软件有限公司,未经淘宝(中国)软件有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110130762.3/2.html,转载请声明来源钻瓜专利网。
- 上一篇:用于执行电力线通信的移动设备及其操作方法
- 下一篇:一种营养趣味奶跳糖
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置