[发明专利]一种文件读取方法、装置、设备及介质在审
申请号: | 201910434286.7 | 申请日: | 2019-05-23 |
公开(公告)号: | CN110109884A | 公开(公告)日: | 2019-08-09 |
发明(设计)人: | 张端 | 申请(专利权)人: | 苏州浪潮智能科技有限公司 |
主分类号: | G06F16/172 | 分类号: | G06F16/172;G06F16/14 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 罗满 |
地址: | 215100 江苏省苏州市吴*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 预设 文件读取 目标元数据 目标数据 预先存储 读取 数据通信过程 文件读取过程 文件读取装置 读取目标 目标文件 通信资源 阈值时 延时 阻塞 占用 记录 | ||
本发明公开了一种文件读取方法、装置、设备及介质,该方法的步骤包括:根据文件读取需求在MDS中读取相应的目标元数据,并获取记录于目标元数据中的目标文件的目标数据大小;当目标数据大小在预设阈值内或等于预设阈值时,在MDS中读取目标文件;其中,数据大小在预设阈值内或等于预设阈值的文件预先存储于MDS。本方法通过预先将数据大小在一定阈值范围内的文件预先存储于MDS中,能够相对减少对OSD通信资源的占用,相对避免了OSD在数据通信过程中产生延时及阻塞,进而确保了文件读取过程的稳定性。此外,本发明还提供一种文件读取装置、设备及介质,有益效果同上所述。
技术领域
本发明涉及数据通信领域,特别是涉及一种文件读取方法、装置、设备及介质。
背景技术
随着计算机的普及和互联网技术的发展,数据文件正在海量且迅速地增长,这些数据文件通常被保存于计算机存储系统中以便用户对数据文件进行检索、分析。
为了实现对文件读取的整体可靠性,当前通常采用分布式文件系统对数据文件进行存储,具体实现上是通过多台存储节点共同提供文件系统所需的存储空间,因此为了更加准确的在分布式文件系统中进行数据文件的读取,当前通常采用元数据(Metadata)对存储于存储节点的数据文件的相关信息进行记录,元数据,又称中介数据、中继数据,为描述数据的数据(data about data),主要是描述数据属性(property)的信息,用来支持如指示存储位置、历史数据、资源查找、文件记录等功能。为了更好的对元数据进行维护,在当前的使用场景中,元数据往往被单独存储于MDS(Metadata Server,元数据服务器)中,而数据文件被存储于OSD(Object Storage Device,对象存储设备)中,由于当前的数据文件的总数据量往往较庞大,因此通常预先被划分并存储于多个OSD中,进而分布式文件系统的客户端在访问某一个数据文件时,需要先访问MDS以获取到该数据文件的元数据,进而再根据元数据在多个OSD,或OSD的多个路径中获取相应的数据文件片段,最终组合为完整的数据文件,在这一过程中涉及到分布式文件系统的客户端与OSD的频繁交互,需要占用较多的通信资源,在此基础上,当分布式文件系统的客户端访问数据量较小且无需经过划分即可存储至OSD中的数据文件时,仍然需要遵照上述的操作过程,最终通过分布式文件系统的客户端与OSD进行交互以获取该数据文件,这将进一步加剧了对OSD的通信资源的占用,可能导致数据通信过程产生延时以及阻塞等异常情况,难以确保文件读取过程的稳定性。
由此可见,提供一种文件读取方法,以相对减少对OSD通信资源的占用,相对避免在数据通信过程中产生延时及阻塞,进而确保文件读取过程的稳定性,是本领域技术人员需要解决的问题。
发明内容
本发明的目的是提供一种文件读取方法、装置、设备及介质,以相对减少对OSD通信资源的占用,相对避免在数据通信过程中产生延时及阻塞,进而确保文件读取过程的稳定性。
为解决上述技术问题,本发明提供一种文件读取方法,包括:
根据文件读取需求在MDS中读取相应的目标元数据,并获取记录于目标元数据中的目标文件的目标数据大小;
当目标数据大小在预设阈值内或等于预设阈值时,在MDS中读取目标文件;其中,数据大小在预设阈值内或等于预设阈值的文件预先存储于MDS。
优选的,数据大小在预设阈值内的文件预先存储于MDS包括:
数据大小在预设阈值内的文件预先作为元数据的扩展属性存储在MDS。
优选的,该方法进一步包括:
当对目标文件进行追加写数据操作后导致目标文件的目标数据大小大于预设阈值时,在目标元数据的扩展属性中读取目标文件,并将目标文件存储至OSD。
优选的,该方法进一步包括:
当目标数据大小大于预设阈值时,根据目标元数据在OSD中读取目标文件。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州浪潮智能科技有限公司,未经苏州浪潮智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910434286.7/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种文件滤重储存方法和装置
- 下一篇:一种CG数据资产自动同步方法及同步系统