[发明专利]一种文件合并的方法、装置、设备及存储介质在审
申请号: | 201911418125.5 | 申请日: | 2019-12-31 |
公开(公告)号: | CN113127548A | 公开(公告)日: | 2021-07-16 |
发明(设计)人: | 李营;张超 | 申请(专利权)人: | 奇安信科技集团股份有限公司;网神信息技术(北京)股份有限公司 |
主分类号: | G06F16/25 | 分类号: | G06F16/25 |
代理公司: | 北京英特普罗知识产权代理有限公司 11015 | 代理人: | 程超 |
地址: | 100088 北京市西城区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种文件合并的方法、装置、设备及存储介质,该方法包括:从HDFS中获取HIVE的各个分区的文件,并从每个分区的文件中确定出需要合并的目标文件;基于每个分区的目标文件,按照预设合并效果模型计算出每个分区的合并效果优先级;其中,所述合并效果优先级与目标文件合并后对HDFS的NameNode内存的缓解程度正相关;分别为每个分区启动对应的合并任务,并按照每个分区的合并效果优先级,先后执行各个合并任务,以对分区上的目标文件进行文件合并;本发明能够更加高效的合并HIVE产生的小文件,尽快缓解HDFS的NameNode内存压力。 | ||
搜索关键词: | 一种 文件 合并 方法 装置 设备 存储 介质 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于奇安信科技集团股份有限公司;网神信息技术(北京)股份有限公司,未经奇安信科技集团股份有限公司;网神信息技术(北京)股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201911418125.5/,转载请声明来源钻瓜专利网。
- 上一篇:监控方法及相关产品
- 下一篇:一种二甲基咪唑的液化方法