[发明专利]分布式文件系统的预读方法和装置有效
申请号: | 201511020316.8 | 申请日: | 2015-12-29 |
公开(公告)号: | CN105653684B | 公开(公告)日: | 2020-03-03 |
发明(设计)人: | 袁清波 | 申请(专利权)人: | 曙光云计算集团有限公司;曙光信息产业(北京)有限公司;曙光信息产业股份有限公司 |
主分类号: | G06F16/172 | 分类号: | G06F16/172 |
代理公司: | 北京德恒律治知识产权代理有限公司 11409 | 代理人: | 章社杲;卢军峰 |
地址: | 100193 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 分布式 文件系统 方法 装置 | ||
本发明公开了一种分布式文件系统的预读方法和装置,该方法包括:在客户端接收到对目标数据的读请求后,客户端判断服务端缓存的对应读请求的数据量是否满足第一预定最优缓存量;在服务端缓存的对应读请求的数据量不满足第一预定最优缓存量的情况下,客户端向服务端发起第一预读请求;客户端在客户端缓存中查找对应读请求的目标数据,在查找到目标数据的情况下,从客户端缓存中读取目标数据;客户端判断客户端缓存的对应读请求的数据量是否满足第二预定最优缓存量;在客户端缓存的对应读请求的数据量不满足第二预定最优缓存量的情况下,客户端向服务端发起异步预读请求。
技术领域
本发明涉及分布式文件系统领域,具体来说,涉及一种分布式文件系统的预读方法和装置。
背景技术
文件系统最初是用来管理本地磁盘,提供用户访问接口。某些数据的集合叫做一个“文件”,并赋予每一个文件一定的属性以标识该数据集合的某些属性。文件按照树结构层次进行管理和检索。分布式文件系统向用户提供和本地文件系统相同的访问接口,却可以让用户访问和管理远程的数据。分布式文件系统中的应用可能来自很多不同的节点,它所管理的数据也可能存储在不同的节点上,同时系统中可能存在多个提供元数据操作的元数据服务器,这些都视具体实现而定。分布式文件系统中有很多设计和实现与本地文件系统存在巨大的差别,也是巨大的挑战,这主要是数据、管理的物理分布和逻辑分布造成的。
常见的Linux VFS文件系统提供读写缓存机制,其预读算法的具体过程是这样的:对于每个文件的第一个读请求,系统读入所请求的页面并读入紧随其后的少数几个页面(不少于一个页面,通常是三个页面),这时的预读称为同步预读。对于第二次读请求,如果所读页面不在缓存(Cache)中,即不在前次预读的组(group)中,则表明文件访问不是顺序访问,系统继续采用同步预读;如果所读页面在Cache中,则表明前次预读命中,操作系统把预读group扩大一倍,并让底层文件系统读入group中剩下尚不在Cache中的文件数据块,这时的预读称为异步预读。无论第二次读请求是否命中,系统都要更新当前预读group的大小。此外,系统中定义了一个window,它包括前一次预读的group和本次预读的group。任何接下来的读请求都会处于两种情况之一:第一种情况是所请求的页面处于预读window中,这时继续进行异步预读并更新相应的window和group;第二种情况是所请求的页面处于预读window之外,这时系统就要进行同步预读并重置相应的window和group。
Linux内核中文件Cache替换的具体过程是这样的:刚刚分配的Cache项链入到inactive_list头部,并将其状态设置为active,当内存不够需要回收Cache时,系统首先从尾部开始反向扫描active_list并将状态不是referenced的项链入到inactive_list的头部,然后系统反向扫描inactive_list,如果所扫描的项的处于合适的状态就回收该项,直到回收了足够数目的Cache项。
分布式文件系统客户端读取的数据需要经过网络从服务端获取,这时需要的数据可能不在服务端的缓存中,那么就需要从磁盘中读出,而磁盘是延迟非常大的慢速设备,等待时间比较长。对于延迟敏感性应用,这种等待往往无法忍受。而类似Linux文件系统的预读算法,只会根据用户请求的数据从后端取出一部分数据,当系统压力大的时候不可避免地需要等待后端从磁盘上读出数据,这大大延长了用户的读时间。
针对相关技术中的上述问题,目前尚未提出有效的解决方案。
发明内容
针对相关技术中的上述问题,本发明提出一种分布式文件系统的预读方法和装置,能够抵抗网络带来的抖动,缩短用户读取数据的时间。
本发明的技术方案是这样实现的:
根据本发明的一个方面,提供了一种分布式文件系统的预读方法。
该预读方法包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于曙光云计算集团有限公司;曙光信息产业(北京)有限公司;曙光信息产业股份有限公司,未经曙光云计算集团有限公司;曙光信息产业(北京)有限公司;曙光信息产业股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201511020316.8/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种并发数据请求处理方法及装置
- 下一篇:消防管理信息控制方法及信息控制系统