[发明专利]分布式文件系统对多个副本数据进行处理的方法及该系统有效
申请号: | 201210381299.0 | 申请日: | 2012-10-10 |
公开(公告)号: | CN103729352B | 公开(公告)日: | 2017-07-28 |
发明(设计)人: | 伍海君;朱会灿;邓大付;李锐;邹永强;董乘宇;陈晓东;刘畅;赵大勇;杨绍鹏;阙太富;王磊;张书鑫;张银锋 | 申请(专利权)人: | 腾讯科技(深圳)有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京德琦知识产权代理有限公司11018 | 代理人: | 周华霞,王丽琴 |
地址: | 518044 广东省深圳*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 分布式 文件系统 副本 数据 进行 处理 方法 系统 | ||
1.一种分布式文件系统对多个副本数据进行处理的方法,其特征在于,该方法包括:
客户端为数据块的多个副本数据分别选取节点地址,由选取的节点地址组成地址集合,并为数据块设置版本号;
客户端向节点地址对应的数据节点写入副本数据,并在写入各数据节点的副本数据中添加设置的版本号;
如果副本数据在写入过程中发生损坏,则客户端增大设置的版本号,将增大的版本号添加到写入各数据节点的副本数据中,并将增大后的版本号作为正确版本号,通知主节点服务器在硬盘上记录数据块多个副本数据的地址集合和正确版本号;
客户端从主节点服务器获取数据块多个副本数据的地址集合和正确版本号;
客户端从与地址集合包含的各节点地址对应的数据节点读取副本数据;
客户端判断读取的副本数据包含的版本号与正确版本号是否一致,如果是,则保留读取的副本数据,否则丢掉读取的副本数据。
2.如权利要求1所述的方法,其特征在于,所述通知主节点服务器在硬盘记录数据块多个副本数据的地址集合和正确版本号之后,该方法还包括数据追加写入,具体地:
客户端从主节点服务器获取数据块的多个副本数据的地址集合和正确版本号;
客户端向与地址集合包含的各节点地址对应的数据节点,写入追加的数据;
如果数据在写入过程中发生损坏,则客户端增大从主节点服务器获取的版本号,将增大的版本号添加到写入数据节点的数据中;并将增大后的版本号作为最终的正确版本号,通知主节点服务器更新数据块多个副本数据的正确版本号。
3.如权利要求1所述的方法,其特征在于,所述客户端从主节点服务器获取数据块多个副本数据的地址集合和正确版本号,具体包括:
客户端向主节点服务器发送包含文件ID的信息获取请求;
主节点服务器从硬盘读取与文件ID对应的各数据块多个副本数据的地址集合和正确版本号,将读取的地址集合和正确版本号反馈给客户端。
4.如权利要求1所述的方法,其特征在于,所述客户端从主节点服务器获取数据块多个副本数据的地址集合和正确版本号之前,该方法还包括:
客户端为当前数据块的多个副本数据分别选取节点地址,由选取的节点地址组成地址集合,并为当前数据块设置版本号;
客户端向节点地址对应的数据节点写入副本数据,在写入各数据节点的副本数据中添加设置的版本号,并添加上一数据块的地址集合和正确版本号;
如果副本数据在写入过程中发生损坏,则客户端增大设置的版本号,将增大的版本号添加到写入各数据节点的副本数据中;将增大后的版本号作为当前数据块的正确版本号,判断当前数据块是否为最有一个数据块,如果是,将当前数据块的地址集合和正确版本号记录到下一数据块的各副本数据中,如果不是,则通知主节点服务器在硬盘上记录当前数据块多个副本数据的地址集合和正确版本号。
5.如权利要求4所述的方法,其特征在于,所述客户端从主节点服务器获取数据块多个副本数据的地址集合和正确版本号,具体包括:
客户端向主节点服务器发送包含文件ID的信息获取请求;
主节点服务器从硬盘读取与文件ID对应的最后一个数据块多个副本数据的地址集合和正确版本号;并向各数据节点发送信息获取请求,接收数据节点反馈的除最后一个数据块外其他各数据块多个副本数据的地址集合和正确版本号,存储在内存中;
主节点服务器将与文件ID对应的所有数据块的地址集合和正确版本号反馈给客户端。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于腾讯科技(深圳)有限公司,未经腾讯科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201210381299.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种眼镜镜框托叶架拉力测试装置
- 下一篇:一种检查锂离子电池里黑点的装置
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置