[发明专利]一种基于HBase数据库的海量数据快速导入方法在审
申请号: | 201510020951.X | 申请日: | 2015-01-15 |
公开(公告)号: | CN104516985A | 公开(公告)日: | 2015-04-15 |
发明(设计)人: | 范荣盛;辛国茂;赵仁明;金洪殿 | 申请(专利权)人: | 浪潮(北京)电子信息产业有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京安信方达知识产权代理有限公司 11262 | 代理人: | 王康;李丹 |
地址: | 100085 北京市海*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 提出一种基于HBase的海量数据快速导入方法,基于HBase数据库中表的格式,对数据源中的数据进行拆分;基于数据源中数据量的大小和HBase数据库中行键的设计,在建立所述表的时候进行预分区;设置HBase数据库的预写日志系统,关闭自动提交功能,设置缓存大小;启用多线程,将所述数据导入HBase数据库的表中。所述方法不需要对数据源进行预处理,方便操作,提高了效率。 | ||
搜索关键词: | 一种 基于 hbase 数据库 海量 数据 快速 导入 方法 | ||
【主权项】:
一种基于HBase的海量数据快速导入方法,包括:S1.基于HBase数据库中表的格式,对数据源中的数据进行拆分;S2.基于数据源中数据量的大小和HBase数据库中行键的设计,在建立所述表的时候进行预分区;S3.设置HBase数据库的预写日志系统,关闭自动提交功能,设置缓存大小;S4.启用多线程,将所述数据导入HBase数据库的表中,流程结束。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浪潮(北京)电子信息产业有限公司;,未经浪潮(北京)电子信息产业有限公司;许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201510020951.X/,转载请声明来源钻瓜专利网。
- 上一篇:确定布局设计是否是N‑可染色的方法
- 下一篇:数据展示方法