[发明专利]Hive文件读写方法及装置有效
申请号: | 201810593791.1 | 申请日: | 2018-06-11 |
公开(公告)号: | CN109086293B | 公开(公告)日: | 2020-11-27 |
发明(设计)人: | 吴强 | 申请(专利权)人: | 玖富金科控股集团有限责任公司 |
主分类号: | G06F16/13 | 分类号: | G06F16/13;G06F16/182 |
代理公司: | 北京正理专利代理有限公司 11257 | 代理人: | 付生辉 |
地址: | 100000 北京市朝阳区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供了一种Hive文件读写方法及装置,包括:读取数据接入表,获取服务器信息和并行度信息;根据所述的服务器信息,生成执行程序以连接Hive文件所在的服务器;根据所述的服务器信息和并行度信息,确定所述Hive文件的读取线程数量、处理线程数量和分批大小;接入所述的Hive文件数据,进行数据消费。本发明提供的方法还包括Hive文件数据分组业务配置,组装所述读取的Hive文件数据,及根据数据消费优先级配置,确定所述数据消费的顺序。相比于传统的Hive文件读写方法,本发明提供的技术方案避免了繁冗的编译过程,缓解了读取效率较低,无法控制读取过程的问题。 | ||
搜索关键词: | hive 文件 读写 方法 装置 | ||
【主权项】:
1.一种Hive文件读写方法,其特征在于,包括:读取数据接入表,获取服务器信息和并行度信息;根据所述的服务器信息,生成执行程序以连接Hive文件所在的服务器;根据所述的服务器信息和并行度信息,确定所述Hive文件的读取线程数量、处理线程数量和分批大小;接入所述的Hive文件数据,进行数据消费。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于玖富金科控股集团有限责任公司,未经玖富金科控股集团有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201810593791.1/,转载请声明来源钻瓜专利网。
- 上一篇:一种数据库的切换方法及系统
- 下一篇:一种鞋楦数据库构建及管理方法及系统