[发明专利]一种对于海量小文件在分布式存储系统中上载的方法有效
申请号: | 201410603326.3 | 申请日: | 2014-10-30 |
公开(公告)号: | CN105630810B | 公开(公告)日: | 2019-05-21 |
发明(设计)人: | 杨浩;马照云;王利虎;苗艳超;刘新春;邵宗有 | 申请(专利权)人: | 曙光信息产业股份有限公司 |
主分类号: | G06F16/17 | 分类号: | G06F16/17 |
代理公司: | 北京安博达知识产权代理有限公司 11271 | 代理人: | 徐国文 |
地址: | 300384 天津市西青区华*** | 国省代码: | 天津;12 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及一种对于海量小文件在分布式存储系统中上载的方法,该方法包括:客户端根据操作系统的标准POSIX语义,查找带有创建请求的目标文件;元数据服务器对文件进行预创建,建立文件池;利用元数据服务器聚合管理文件元数据;经内核模块对文件排序后批量同步上载。解决了小文件创建延迟大、数目少的问题,大大提高了上载速率,且减少了硬件资源浪费,节约了成本。 | ||
搜索关键词: | 一种 对于 海量 文件 分布式 存储系统 上载 方法 | ||
【主权项】:
1.一种对于海量小文件在分布式存储系统中上载的方法,所述上载方法包括下述步骤:(1)客户端根据操作系统的标准POSIX语义,查找带有创建请求的目标文件;(2)元数据服务器对文件进行预创建,建立文件池;(3)利用元数据服务器聚合管理文件元数据;(4)经内核模块对文件排序后批量同步上载;所述步骤(2)中,所述元数据服务器对文件进行预创建,建立文件池步骤如下:2‑1为待创建文件分配唯一标识;2‑2向数据服务器发起对象创建请求,并等待处理完成;2‑3进行元数据创建操作;2‑4返回客户端;所述步骤2‑3中,所述进行元数据创建操作,包括在元数据服务器上预先创建一定数目的文件,并放入备用文件池中;当客户端有创建请求到来时,从文件池中分配一个文件,返回给客户端即可;当空闲文件池中没有可用文件时,元数据服务器直接向数据服务器发起对象创建请求,同时,唤醒后台线程向文件池填充空闲文件。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于曙光信息产业股份有限公司,未经曙光信息产业股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201410603326.3/,转载请声明来源钻瓜专利网。