[发明专利]一种数据预取方法、装置、终端及存储介质在审
申请号: | 201910662766.9 | 申请日: | 2019-07-22 |
公开(公告)号: | CN110471894A | 公开(公告)日: | 2019-11-19 |
发明(设计)人: | 葛凯凯 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F16/172 | 分类号: | G06F16/172;G06F16/182 |
代理公司: | 44202 广州三环专利商标代理有限公司 | 代理人: | 郝传鑫;贾允<国际申请>=<国际公布>= |
地址: | 518057 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 读取 属性信息 目标服务器 读取请求 目标对象 目标数据 条带单元 预取 预取数据 分布式文件系统 缓存 服务器发送 缓存命中率 存储介质 存储容量 对象文件 访问性能 接收目标 数据预取 网络延迟 响应目标 数据读 申请 存储 发送 终端 | ||
本申请提供了一种数据预取方法、装置、终端及存储介质,该方法包括:响应目标数据的第一读取请求,第一读取请求包括读取属性信息;基于读取属性信息以及本地缓存中存储的对象文件的属性信息,确定目标数据所在的目标对象和目标条带单元;若在目标条带单元中未查找到目标数据,则将目标条带单元的存储容量确定为与目标数据对应的预取范围;基于目标对象的属性信息,确定与目标对象对应的目标服务器;向目标服务器发送读取预取范围内的数据的第二读取请求,以使目标服务器对预取范围内的数据进行读取,得到预取数据;接收目标服务器发送的预取数据。本申请能够提高缓存命中率,减少网络延迟,提高分布式文件系统的数据读访问性能。
技术领域
本申请属于计算机技术领域,具体涉及一种数据预取方法、装置、终端及存储介质。
背景技术
目前分布式文件系统的客户端中使用了内存作为一个读写缓存,在写数据的时候先写入缓存,然后定期淘汰,在读数据的时候也是先从缓存读起,但是在缓存未命中的时候需要去服务器读取数据。现有的数据读取过程一般如下:根据文件的路径和文件名查找文件的元数据信息,对文件数据进行对象分片,根据文件数据的对象分片位置在缓存中进行查找,若缓存为命中,则根据元数据中的数据池通过伪随机数据分布算法(controoledreplication under scalable hashing,crush)定位数据在服务器中的位置,然后去服务器中读取数据。在服务器读取数据的时候会进行数据预取,一般是预取相邻的下一个数据块。
但现有的预取方法是对与读取的数据相邻的数据块进行预取,缓存的命中率以及分布式文件系统的数据读访问性能等不能得到更好的保障。
发明内容
为了提高缓存命中率,减少网络延迟,从而提高分布式文件系统的数据读访问性能,本申请提出一种数据预取方法、装置、终端及存储介质。
一方面,本申请提出了一种数据预取方法,所述方法包括:
响应目标数据的第一读取请求,所述第一读取请求包括读取属性信息;
基于所述读取属性信息以及本地缓存中存储的对象文件的属性信息,确定所述目标数据所在的目标对象和目标条带单元;
在所述目标条带单元中查找所述目标数据,若未查找到所述目标数据,则将所述目标条带单元的存储容量确定为与所述目标数据对应的预取范围;
基于所述目标对象的属性信息,确定与所述目标对象对应的目标服务器;
向所述目标服务器发送读取所述预取范围内的数据的第二读取请求,以使所述目标服务器基于所述第二读取请求对所述预取范围内的数据进行读取,得到预取数据;
接收所述目标服务器发送的所述预取数据。
另一方面,本申请提出了一种数据预取装置,所述装置包括:
响应模块,用于响应目标数据的第一读取请求,所述第一读取请求包括读取属性信息;
第一确定模块,用于基于所述读取属性信息以及本地缓存中存储的对象文件的属性信息,确定所述目标数据所在的目标对象和目标条带单元;
第二确定模块,用于在所述目标条带单元中查找所述目标数据,若未查找到所述目标数据,则将所述目标条带单元的存储容量确定为与所述目标数据对应的预取范围;
第三确定模块,用于基于所述目标对象的属性信息,确定与所述目标对象对应的目标服务器;
发送模块,用于向所述目标服务器发送读取所述预取范围内的数据的第二读取请求,以使所述目标服务器基于所述第二读取请求对所述预取范围内的数据进行读取,得到预取数据;
接收模块,用于接收所述目标服务器发送的所述预取数据。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910662766.9/2.html,转载请声明来源钻瓜专利网。