[发明专利]一种基于数据源的大数据量聚合查询的优化方法及装置在审
申请号: | 202211421793.5 | 申请日: | 2022-11-07 |
公开(公告)号: | CN115687407A | 公开(公告)日: | 2023-02-03 |
发明(设计)人: | 周朝卫;刘钧;张梅;周世军;覃华云 | 申请(专利权)人: | 中盈优创资讯科技有限公司 |
主分类号: | G06F16/2453 | 分类号: | G06F16/2453;G06F16/242;G06F16/215 |
代理公司: | 上海嘉蓝专利代理事务所(普通合伙) 31407 | 代理人: | 金波 |
地址: | 200000 上海市嘉*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开一种基于数据源的大数据量聚合查询的优化方法,其中,该方法包括:Spark在数据写入时,根据定义的预聚合表达式,对数据进行预聚合,生成的预聚合数据和明细数据在同一个事务中,并同时写入存储介质;通过手工执行自定义的预聚合触发命令,根据通过专用命令定义的预聚合表达式,对存量的明细数据进行预聚合,生成预聚合数据;数据查询时,解析查询语句,从定义的预聚合表达式中,匹配到最优的预聚合表达式进行数据查询。该方法及装置基于数据源进行聚合查询,能极大地提升性能,降低CPU和内存的消耗。 | ||
搜索关键词: | 一种 基于 数据源 数据量 聚合 查询 优化 方法 装置 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中盈优创资讯科技有限公司,未经中盈优创资讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202211421793.5/,转载请声明来源钻瓜专利网。