[发明专利]基于HBASE的批量装载快速生成数据统计信息的方法在审
| 申请号： | 202010411311.2 | 申请日： | 2020-05-15 |
| 公开（公告）号： | CN111625577A | 公开（公告）日： | 2020-09-04 |
| 发明（设计）人： | 陈贇人;杨永锋 | 申请（专利权）人： | 贵州易鲸捷信息技术有限公司 |
| 主分类号： | G06F16/2458 | 分类号： | G06F16/2458;G06F16/25 |
| 代理公司： | 成都中炬新汇知识产权代理有限公司 51279 | 代理人： | 罗韬 |
| 地址： | 550000 贵州省贵阳市贵阳综*** | 国省代码： | 贵州;52 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | |||
| 搜索关键词： | 基于 hbase 批量 装载 快速 生成 数据 统计 信息 方法 | ||
1.一种基于HBASE的批量装载快速生成数据统计信息的方法，其特征在于所述的方法包括如下步骤：
步骤A、在HDFS目录下生成BulkLoad目录，用于存放将外部数据转换成HBASE格式的HFile文件；
步骤B、在HDFS目录下生成BulkLoadStats统计信息目录，用于存放统计信息数据的HFile文件；
步骤C、读取外部数据，转换成HBASE格式的HFile文件，存储在BulkLoad目录下；同时进行Random的随机数生成，当生成的随机数落在数据取样率区间上时，则将当前的外部数据同时存储在BulkLoadStats目录下，作为统计信息的采样数据；反之则继续读取下一行外部数据；
步骤D、调用HBASE的doBulkLoad接口，将BulkLoad目录和BulkLoadStats统计信息目录中的HFile文件载入到Region中，然后生成原表和统计信息采样表数据。
2.根据权利要求1所述的基于HBASE的批量装载快速生成数据统计信息的方法，其特征在于所述方法还包括：步骤E、对统计信息采样表数据进行统计信息的收集，生成原表的直方图数据。
3.根据权利要求1所述的基于HBASE的批量装载快速生成数据统计信息的方法，其特征在于：所述步骤C中每读取一行外部数据，均进行一次Random的随机数生成。
4.根据权利要求1或3所述的基于HBASE的批量装载快速生成数据统计信息的方法，其特征在于：所述Random的随机数生成为在0到9999之间随机生成一个整数N，然后预设取样率R，当R×10000≤N时，则生成的随机数落在数据取样率区间上。
5.根据权利要求4所述的基于HBASE的批量装载快速生成数据统计信息的方法，其特征在于：所述R为外部数据量的10%-30%。
6.根据权利要求4所述的基于HBASE的批量装载快速生成数据统计信息的方法，其特征在于：使用Random.nextInt(10000)在0到9999之间随机生成整数N。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于贵州易鲸捷信息技术有限公司，未经贵州易鲸捷信息技术有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/pat/books/202010411311.2/1.html，转载请声明来源钻瓜专利网。
