[发明专利]基于Spark框架的分布式概要数据结构的构建方法及查询方法有效
| 申请号： | 201810113980.4 | 申请日： | 2018-02-05 |
| 公开（公告）号： | CN108388603B | 公开（公告）日： | 2022-05-17 |
| 发明（设计）人： | 吴广君;党向磊;王树鹏;杨怡欣;赵百强 | 申请（专利权）人： | 中国科学院信息工程研究所 |
| 主分类号： | G06F16/22 | 分类号： | G06F16/22;G06F16/2458 |
| 代理公司： | 北京君尚知识产权代理有限公司 11200 | 代理人： | 余长江 |
| 地址： | 100093 *** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明提供一种基于Spark框架的分布式概要数据结构的构建方法及查询方法，以Spark平台为基础，利用q‑digest结构获得数据区间分布情况，BloomFilter获取组员存在信息，HyperLogLogPlus记录数据基数信息，实现高吞吐低延迟的处理能力，且能够快速响应查询要求，有效适应Spark分布式计算环境，返回误差可控的近似计算结果。本发明还提供一种基于Spark框架的分布式概要数据结构的构建及查询系统。 | ||
| 搜索关键词： | 基于 spark 框架 分布式 概要 数据结构 构建 方法 查询 | ||
【主权项】：
1.一种基于Spark框架的分布式概要数据结构的构建方法，其步骤包括：在基于Spark框架的分布式环境下，以的形式接收流数据；获取流数据的数据元素的value值，构建由二叉树可存储内容的节点组成的q‑digest结构，将value值插入到q‑digest结构相应的叶节点中；该q‑digest结构的节点包括BloomFilter、HyperLogLogPlus；由下向上逐层检查各节点是否满足节点约束条件，如果满足，则通过HyperLogLogPlus判断当前BloomFilter是否超出最佳容量，否则向上合并至父节点；如果BloomFilter未超出最佳容量，则将数据元素的key插入到节点的BloomFilter，否则新建BloomFilter以插入数据元素的key；将数据元素的key插入到HyperLogLogPlus中，完成分布式概要数据的动态构建。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于中国科学院信息工程研究所，未经中国科学院信息工程研究所许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201810113980.4/，转载请声明来源钻瓜专利网。
