[发明专利]一种快速扫描HBase分区表的方法、装置、系统在审
申请号: | 202010188346.4 | 申请日: | 2020-03-17 |
公开(公告)号: | CN111427887A | 公开(公告)日: | 2020-07-17 |
发明(设计)人: | 刘智鑫;蔡苗;陈震宇;刘国华 | 申请(专利权)人: | 中国邮政储蓄银行股份有限公司 |
主分类号: | G06F16/22 | 分类号: | G06F16/22;G06F16/2455;G06F3/06 |
代理公司: | 北京市万慧达律师事务所 11111 | 代理人: | 顾友 |
地址: | 100032*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本申请实施例公开一种快速扫描HBase分区表的方法、装置、系统,方法包括:对HBase数据表进行预分区以得到若干个物理分区;按照物理分区的数量对Spark的RDD进行分区,得到与物理分区的数量相同的逻辑分区,并建立与物理分区之间的映射关系以使得每个逻辑分区映射到对应的物理分区;在Spark运行时,为每个物理分区分配一个SCAN扫描对象以实现对HBase数据表的并行扫描。本申请针对HBase数据表进行预分区,并为每个HBase数据表的预分区建立一个SCAN扫描对象,从而可以并行读取每个分区的数据,快速扫描HBase的分区表。 | ||
搜索关键词: | 一种 快速 扫描 hbase 分区表 方法 装置 系统 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国邮政储蓄银行股份有限公司,未经中国邮政储蓄银行股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202010188346.4/,转载请声明来源钻瓜专利网。
- 上一篇:一种抗病毒鼻罩喷剂及其制造方法
- 下一篇:大负载AGV快充电池系统