[发明专利]分布式数据仓库中删除文件的方法、装置、设备及系统有效
申请号: | 201310628849.9 | 申请日: | 2013-11-29 |
公开(公告)号: | CN104679772B | 公开(公告)日: | 2019-01-25 |
发明(设计)人: | 庄虔玉;鲍春健;麦艺华;翟艳堂 | 申请(专利权)人: | 深圳市腾讯计算机系统有限公司 |
主分类号: | G06F16/182 | 分类号: | G06F16/182;G06F16/174 |
代理公司: | 北京三高永信知识产权代理有限责任公司 11138 | 代理人: | 关文魁 |
地址: | 518000 广东省深圳市南*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 分布式 数据仓库 删除 文件 方法 装置 设备 系统 | ||
1.一种分布式数据仓库中删除文件的方法,其特征在于,所述方法包括:
向管理节点发送心跳上报,所述心跳上报包括数据节点存储的所有数据块的数据块标识,所述心跳上报用于使得所述管理节点根据所述心跳上报确定所述数据块标识到所述数据节点的映射;
接收心跳返回,从接收到的所述心跳返回中获取所述管理节点发送的携带有数据块标识的删除指令;
将所述数据块标识存入至延迟队列中并记录存入的时间,所述延迟队列用于保存需要删除的数据块的数据块标识;
在指定条件下删除所述延迟队列中存储的所述数据块标识所对应的所述数据节点中的数据块。
2.根据权利要求1所述的方法,其特征在于,所述在指定条件下删除所述延迟队列中存储的所述数据块标识所对应的数据节点中的数据块,包括:
在所述数据块标识存入至所述延迟队列的时间达到预定时间阈值时,删除所述数据块标识所对应的所述数据节点中的数据块;
或,
在接收到客户端下发的用于指示清空所述延迟队列中所有数据块标识所对应的数据块的清空指令时,删除所述延迟队列中所有数据块标识所对应的所述数据节点中的数据块。
3.根据权利要求2所述的方法,其特征在于,在所述将所述数据块标识存入至延迟队列中并记录存入的时间之后,还包括:
接收所述管理节点发送的用于指示恢复所述延迟队列中存储的所述数据块标识所对应的数据块的恢复指令;
向所述管理节点发送携带有所述数据节点存储的所有数据块的数据块标识的心跳上报,以便所述管理节点根据接收到的所述心跳上报中的所述数据块标识构建所述数据块标识到所述数据节点的映射。
4.根据权利要求2或3所述的方法,其特征在于,在所述在接收到所述客户端下发的用于指示清空所述延迟队列中所有数据块标识所对应的数据块的清空指令时,删除所述延迟队列中所有数据块标识所对应的所述数据节点中的数据块之前,还包括:
确定所述延迟队列中所有数据块标识所对应的所述数据节点中的数据块;
计算所述数据节点中的所述数据块在所述数据节点中的占用参数;
将所述占用参数发送给所述管理节点,以便所述管理节点接收所述占用参数,所述客户端在查看到所述占用参数之后确定是否需要向所述数据节点下发用于指示清空所述数据节点中所述延迟队列中所有数据块标识所对应的数据块的清空指令。
5.根据权利要求4所述的方法,其特征在于,所述占用参数包括延迟删除存储空间和延迟删除百分比,所述计算所述数据节点中的所述数据块在所述数据节点中的占用参数,包括:
计算所述数据块所占用的所述数据节点的存储空间,将所述存储空间确定为所述延迟删除存储空间;
计算所述延迟删除存储空间占用所述数据节点的总存储空间的百分比,将所述百分比确定为所述延迟删除百分比。
6.根据权利要求2或3所述的方法,其特征在于,所述方法还包括:
接收所述客户端发送的携带有指定时长的时间配置指令,所述时间配置指令用于对所述预定时间阈值进行动态配置;
根据所述时间配置指令将所述预定时间阈值更新为所述指定时长。
7.一种分布式数据仓库中删除文件的方法,其特征在于,所述方法包括:
接收客户端发送的用于指示删除指定文件的文件删除指令;
接收数据节点发送的心跳上报,根据所述心跳上报确定数据块标识到所述数据节点的映射,所述心跳上报包括所述数据节点存储的所有数据块的数据块标识;
对于每一个数据节点,根据预存的文件与数据块标识之间的对应关系以及根据所述心跳上报确定的所述数据块标识到所述数据节点的映射,确定出存储在所述数据节点中属于所述指定文件的数据块;
在向所述数据节点发送的心跳返回中添加携带有所述数据块的数据块标识的删除指令,以便所述数据节点接收所述删除指令;将所述数据块标识存入至延迟队列中,所述延迟队列用于保存需要删除的数据块的数据块标识;在指定条件下删除所述延迟队列中存储的所述数据块标识所对应的数据块。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于深圳市腾讯计算机系统有限公司,未经深圳市腾讯计算机系统有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201310628849.9/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种网络搜索方法和装置
- 下一篇:依据可视区域在网页中显示图片的系统及其方法