[发明专利]一种数据聚合查询的方法及装置有效
申请号: | 201510018619.X | 申请日: | 2015-01-14 |
公开(公告)号: | CN104504154B | 公开(公告)日: | 2018-01-16 |
发明(设计)人: | 李晋钢;宋怀明;狄静舒;惠润海 | 申请(专利权)人: | 曙光信息产业(北京)有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京新知远方知识产权代理事务所(普通合伙)11397 | 代理人: | 申楠 |
地址: | 100193 北京*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 聚合 查询 方法 装置 | ||
1.一种数据聚合查询的方法,其特征在于,包括如下步骤:
第一级节点对各自存储的数据执行聚合查询,所述节点为无共享架构下的节点;
将第一级节点执行聚合查询后得到的数据汇总至第二级节点;
第二级节点对第一级节点执行聚合查询后得到的数据执行聚合查询;
进一步包括:在第一级节点对各自存储的数据执行聚合查询之前,第一级节点对各自存储的数据执行过滤查询;
进一步包括:当数据存在重复时,第一级节点采用含有DISTINCT的结构化查询语言SQL语句执行数据去重,将去重后的数据添加至列表中;
第一级节点确定GROUP BY的SQL语句,并将所述列表中的去重的数据加入到所述GROUP BY的SQL语句执行数据聚合查询;
将第一级节点执行聚合查询后得到的数据汇总至第二级节点;
第二级节点对第一级节点聚合查询后得到的数据执行去重后,确定聚合函数对去重后的数据执行聚合查询。
2.如权利要求1所述的方法,其特征在于,当第一级节点中采用非简单聚合函数执行数据聚合查询时,第一级节点将非简单聚合函数分解为多个简单聚合函数执行数据聚合查询,其中,简单聚合函数包括以下函数之一或者其组合:SUM、COUNT、MAX、MIN,非简单聚合函数包括以下函数之一:AVG、CHECKSUM、BINARY_CHECKSUM、STDEV、STDEVP、VAR、VARP。
3.如权利要求1所述的方法,其特征在于,进一步包括:当第一级节点或第二级节点确定聚合函数为MAX或MIN执行聚合查询时,省略数据去重。
4.如权利要求1所述的方法,其特征在于,当执行数据的分组聚合查询时,第一级节点根据含有GROUP BY的SQL语句对数据执行分组聚合查询;
将第一级节点执行数据分组聚合查询后得到的数据汇总至第二级节点;
第二级节点根据含有GROUP BY的SQL语句对第一级节点执行分组聚合查询后得到的数据执行分组聚合查询。
5.如权利要求4所述的方法,其特征在于,当分组列中含有数据的分布列时,第一级节点根据含有GROUP BY的SQL语句对分组列数据执行分组聚合查询,所述数据的分布列是以列表List、范围Range和/或哈希Hash的形式分布的;
将第一级节点执行数据分组聚合查询后得到的数据汇总至第二级节点。
6.如权利要求4所述的方法,其特征在于,当分组列中不包含数据的分布列时,第一级节点根据含有GROUP BY的SQL语句对分组列数据执行分组聚合查询;
将第一级节点根据含有GROUP BY的SQL语句对分组列数据执行分组聚合查询后得到的数据汇总至第二级节点;
第二级节点对第一级节点分组聚合查询后的数据划分后执行分组聚合查询;
将第二级节点分组聚合查询后得到的数据汇总至第三级节点;
第三级节点对第二级节点分组聚合查询后得到的数据执行聚合查询。
7.一种数据聚合查询的装置,其特征在于,包括:
第一执行模块,用于在第一级节点对各自存储的数据执行聚合查询,所述节点为无共享架构下的节点;
汇总模块,用于将第一级节点执行聚合查询后得到的数据汇总至第二级节点;
第二执行模块,用于在第二级节点对第一级节点执行聚合查询后得到的数据执行聚合查询;
第一执行模块进一步用于在第一级节点对各自存储的数据执行聚合查询之前,在第一级节点对各自存储的数据执行过滤查询;
第一执行模块进一步用于当数据存在重复时,在第一级节点采用含有DISTINCT的结构化查询语言SQL语句执行数据去重,将去重后的数据添加至列表中,第一级节点确定GROUP BY的SQL语句,并将所述列表中的去重的数据加入到所述GROUP BY的SQL语句执行数据聚合查询;
汇总模块进一步用于将第一级节点执行聚合查询后得到的数据汇总至第二级节点;
第二执行模块进一步用于在第二级节点对第一级节点聚合查询后得到的数据执行去重后,确定聚合函数对去重后的数据执行聚合查询。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于曙光信息产业(北京)有限公司,未经曙光信息产业(北京)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201510018619.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种基于压缩感知理论的文本数据流抽样方法
- 下一篇:新闻舆情监测系统
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置