[发明专利]一种列式存储格式文件快速合并方法及其系统有效
| 申请号： | 201710449868.3 | 申请日： | 2017-06-14 |
| 公开（公告）号： | CN107194001B | 公开（公告）日： | 2019-11-12 |
| 发明（设计）人： | 陈良龙;邹宁勇 | 申请（专利权）人： | 网宿科技股份有限公司 |
| 主分类号： | G06F16/182 | 分类号： | G06F16/182;G06F16/13;G06F16/16 |
| 代理公司： | 北京华智则铭知识产权代理有限公司 11573 | 代理人： | 王昌贵 |
| 地址： | 200030 上海市徐汇区*** | 国省代码： | 上海;31 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种列式存储格式文件快速合并方法，所述方法包括以下步骤：读取每个待合并的列式存储格式文件的文件元数据，所述文件元数据包含所述列式存储格式文件的数据模型结构；遍历所述数据模型结构一致的待合并的列式存储格式文件，并按照按块读取方式合并到新列式存储格式文件中。本发明还公开了一种列式存储格式文件快速合并系统。本发明对于列式存储格式(parquet)文件中占数据量最大部分的行群组(ROWGROUP)按块读取并追加到新列式存储格式文件中，进而大幅减少对cpu的消耗，使得合并速度大幅提升。 | ||
| 搜索关键词： | 一种 存储 格式文件 快速 合并 方法 及其 系统 | ||
【主权项】：
1.一种列式存储格式文件快速合并方法，其特征在于，所述方法包括以下步骤：读取每个待合并的列式存储格式文件的文件元数据，所述文件元数据包含所述列式存储格式文件的数据模型结构；遍历所述数据模型结构一致的待合并的列式存储格式文件，并按照按块读取方式合并到新列式存储格式文件中。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于网宿科技股份有限公司，未经网宿科技股份有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201710449868.3/，转载请声明来源钻瓜专利网。
- 上一篇：一种防烫手的不锈钢功夫茶盖碗
- 下一篇：一种速冷水杯
