[发明专利]分布式文件系统的预读方法和装置有效

专利信息
申请号: 201511020316.8 申请日: 2015-12-29
公开(公告)号: CN105653684B 公开(公告)日: 2020-03-03
发明(设计)人: 袁清波 申请(专利权)人: 曙光云计算集团有限公司;曙光信息产业(北京)有限公司;曙光信息产业股份有限公司
主分类号: G06F16/172 分类号: G06F16/172
代理公司: 北京德恒律治知识产权代理有限公司 11409 代理人: 章社杲;卢军峰
地址: 100193 北京市*** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 分布式 文件系统 方法 装置
【说明书】:

发明公开了一种分布式文件系统的预读方法和装置,该方法包括:在客户端接收到对目标数据的读请求后,客户端判断服务端缓存的对应读请求的数据量是否满足第一预定最优缓存量;在服务端缓存的对应读请求的数据量不满足第一预定最优缓存量的情况下,客户端向服务端发起第一预读请求;客户端在客户端缓存中查找对应读请求的目标数据,在查找到目标数据的情况下,从客户端缓存中读取目标数据;客户端判断客户端缓存的对应读请求的数据量是否满足第二预定最优缓存量;在客户端缓存的对应读请求的数据量不满足第二预定最优缓存量的情况下,客户端向服务端发起异步预读请求。

技术领域

本发明涉及分布式文件系统领域,具体来说,涉及一种分布式文件系统的预读方法和装置。

背景技术

文件系统最初是用来管理本地磁盘,提供用户访问接口。某些数据的集合叫做一个“文件”,并赋予每一个文件一定的属性以标识该数据集合的某些属性。文件按照树结构层次进行管理和检索。分布式文件系统向用户提供和本地文件系统相同的访问接口,却可以让用户访问和管理远程的数据。分布式文件系统中的应用可能来自很多不同的节点,它所管理的数据也可能存储在不同的节点上,同时系统中可能存在多个提供元数据操作的元数据服务器,这些都视具体实现而定。分布式文件系统中有很多设计和实现与本地文件系统存在巨大的差别,也是巨大的挑战,这主要是数据、管理的物理分布和逻辑分布造成的。

常见的Linux VFS文件系统提供读写缓存机制,其预读算法的具体过程是这样的:对于每个文件的第一个读请求,系统读入所请求的页面并读入紧随其后的少数几个页面(不少于一个页面,通常是三个页面),这时的预读称为同步预读。对于第二次读请求,如果所读页面不在缓存(Cache)中,即不在前次预读的组(group)中,则表明文件访问不是顺序访问,系统继续采用同步预读;如果所读页面在Cache中,则表明前次预读命中,操作系统把预读group扩大一倍,并让底层文件系统读入group中剩下尚不在Cache中的文件数据块,这时的预读称为异步预读。无论第二次读请求是否命中,系统都要更新当前预读group的大小。此外,系统中定义了一个window,它包括前一次预读的group和本次预读的group。任何接下来的读请求都会处于两种情况之一:第一种情况是所请求的页面处于预读window中,这时继续进行异步预读并更新相应的window和group;第二种情况是所请求的页面处于预读window之外,这时系统就要进行同步预读并重置相应的window和group。

Linux内核中文件Cache替换的具体过程是这样的:刚刚分配的Cache项链入到inactive_list头部,并将其状态设置为active,当内存不够需要回收Cache时,系统首先从尾部开始反向扫描active_list并将状态不是referenced的项链入到inactive_list的头部,然后系统反向扫描inactive_list,如果所扫描的项的处于合适的状态就回收该项,直到回收了足够数目的Cache项。

分布式文件系统客户端读取的数据需要经过网络从服务端获取,这时需要的数据可能不在服务端的缓存中,那么就需要从磁盘中读出,而磁盘是延迟非常大的慢速设备,等待时间比较长。对于延迟敏感性应用,这种等待往往无法忍受。而类似Linux文件系统的预读算法,只会根据用户请求的数据从后端取出一部分数据,当系统压力大的时候不可避免地需要等待后端从磁盘上读出数据,这大大延长了用户的读时间。

针对相关技术中的上述问题,目前尚未提出有效的解决方案。

发明内容

针对相关技术中的上述问题,本发明提出一种分布式文件系统的预读方法和装置,能够抵抗网络带来的抖动,缩短用户读取数据的时间。

本发明的技术方案是这样实现的:

根据本发明的一个方面,提供了一种分布式文件系统的预读方法。

该预读方法包括:

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于曙光云计算集团有限公司;曙光信息产业(北京)有限公司;曙光信息产业股份有限公司,未经曙光云计算集团有限公司;曙光信息产业(北京)有限公司;曙光信息产业股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201511020316.8/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top