[发明专利]一种适配大数据平台的分布式文件系统访问方法及装置有效
申请号: | 201810697852.9 | 申请日: | 2018-06-29 |
公开(公告)号: | CN108920628B | 公开(公告)日: | 2022-02-18 |
发明(设计)人: | 胡永刚 | 申请(专利权)人: | 郑州云海信息技术有限公司 |
主分类号: | G06F16/182 | 分类号: | G06F16/182;G06F16/17;G06F16/13 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 罗满 |
地址: | 450018 河南省郑州市*** | 国省代码: | 河南;41 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 适配大 数据 平台 分布式 文件系统 访问 方法 装置 | ||
本发明公开了一种适配大数据平台的分布式文件系统访问方法、装置、设备及计算机可读存储介质,其中该方法包括:启动挂载点维护进程,利用所述挂载点维护进程挂载所述分布式文件系统的挂载点,并指示所述挂载点维护进程维护所述挂载点对应的挂载点信息;接收大数据平台发送的访问请求,所述访问请求为所述大数据平台需要实现对所述分布式文件系统的访问时发送的;在所述访问请求的触发下将所述挂载点维护进程维护的挂载点信息发送至所述大数据平台,以供所述大数据平台基于所述挂载点信息实现所述分布式文件系统的访问。利用挂载点维护进程适配大数据平台的访问步骤,大大提高了大数据平台访问分布式文件系统时的访问效率。
技术领域
本发明涉及云计算数据中心技术领域,更具体地说,涉及一种适配大数据平台的分布式文件系统访问方法、装置、设备及计算机可读存储介质。
背景技术
大数据时代,各行各业时时刻刻都在产生海量多样的数据,数据正在成为一种生产资料,对于挖掘行业新的经济增长点大有益处,大数据已经成为行业发展新的推动力。在海量数据场景下,传统数据库技术已无法满足其海量存储、高效处理和实时挖掘数据潜在价值的要求,大数据软件平台Hadoop(本申请中可建成为大数据平台)应运而生,应用最广。但是作为Hadoop平台存储系统HDFS存在两个重大缺点:a)不具备纠删码的数据冗余方式,数据利用率低;b)数据分块一般设置为64MB或128MB,无法高效存储大量的小文件。因此目前很多应用场景使用其他可以解决这两个重大缺点的分布式文件系统取代HDFS适配Hadoop大数据软件平台,适配架构如附图1所示。
如附图1所示,大数据平台每次访问分布式文件系统时,都要进行分布式文件系统的挂载(mount),执行完具体访问请求后,再次进行分布式文件系统的卸载(unmount),效率很低。
综上所述,现有技术中大数据平台访问分布式文件系统的技术方案中存在效率较低的问题。
发明内容
本发明的目的是提供一种适配大数据平台的分布式文件系统访问方法、装置、设备及计算机可读存储介质,以解决现有技术中大数据平台访问分布式文件系统的技术方案中存在的效率较低的问题。
为了实现上述目的,本发明提供如下技术方案:
一种适配大数据平台的分布式文件系统访问方法,包括:
启动挂载点维护进程,利用所述挂载点维护进程挂载所述分布式文件系统的挂载点,并指示所述挂载点维护进程维护所述挂载点对应的挂载点信息;
接收大数据平台发送的访问请求,所述访问请求为所述大数据平台需要实现对所述分布式文件系统的访问时发送的;
在所述访问请求的触发下将所述挂载点维护进程维护的挂载点信息发送至所述大数据平台,以供所述大数据平台基于所述挂载点信息实现所述分布式文件系统的访问。
优选的,启动挂载点维护进程之后,还包括:
利用所述挂载点维护进程加载所述分布式文件系统的Linux so动态库,供所述大数据平台获取所述Linux so动态库中的动态库文件并基于所述动态库文件实现所述分布式文件系统的访问。
优选的,接收大数据平台发送的访问请求,包括:
接收大数据平台利用接口适配器的IP Socket接口发送的访问请求。
优选的,指示所述挂载点维护进程维护所述挂载点对应的挂载点信息之后,还包括:
在确定所述大数据平台及所述分布式文件系统将停止使用时,将利用所述挂载点维护进程挂载的挂载点卸载,并停止所述挂载点维护进程的运行。
优选的,指示所述挂载点维护进程维护所述挂载点对应的挂载点信息之后,还包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于郑州云海信息技术有限公司,未经郑州云海信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810697852.9/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置