[发明专利]数据修复方法、分布式存储系统、电子设备及存储介质在审
申请号: | 202211357828.3 | 申请日: | 2022-11-01 |
公开(公告)号: | CN115827319A | 公开(公告)日: | 2023-03-21 |
发明(设计)人: | 徐帅;刘勇成;胡志鹏;袁思思;程龙 | 申请(专利权)人: | 网易(杭州)网络有限公司 |
主分类号: | G06F11/14 | 分类号: | G06F11/14;G06F16/27 |
代理公司: | 北京清源汇知识产权代理事务所(特殊普通合伙) 11644 | 代理人: | 冯德魁 |
地址: | 310052 浙江省杭州*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 修复 方法 分布式 存储系统 电子设备 存储 介质 | ||
本申请公开了一种数据修复方法、分布式存储系统、电子设备及存储介质。该方法包括:第一分片主副本所在的片服务器停机时,确定出用于存储第一分片待修复副本的修复服务器;从存储第一分片副本的服务器中,确定出当前主副本;将目标副本复制到修复服务器,以对待修复副本进行修复,目标副本为除待修复副本之外的第一分片副本;复制过程中,每当接收到对待修复副本的数据读取指令时,重定向至目标副本所在的片服务器读取数据;复制过程中,每当接收到对第一分片的数据写入指令时,将待写入的数据写入第一分片当前主副本所在片服务器中的临时文件,并将临时文件同步至第一分片的每个从副本所在的片服务器。该方法可实现分片修复过程中的数据读写。
技术领域
本申请涉及大数据技术领域,具体涉及一种数据修复方法、分布式存储系统、电子设备及计算机可读存储介质。
背景技术
随着大数据技术的不断发展,分布式存储系统的应用也越来越广泛,分布式存储系统可以为大数据的分析、处理带来极大的便利。
其中,Kudu系统是一种可运行在hadoop平台的分布式存储系统,具有高可用性。Kudu系统中的一个数据表(table)由多个分片(tablet)组成,每个分片在多个片服务器中均有副本,其中一个是主副本,主副本可读数据也可写数据,其他则是从副本,从副本只可读数据。读取分片数据的多个请求,会被分配到不同的副本进行数据读取,以提高读取效率。然而,当一个分片的主副本所在的片服务器发生停机时,由于缺失主副本而无法写入数据,导致该分片及该分片所属的数据表均变成了不可用的状态。
在相关技术中,为修复该分片,可以随机选取该分片的一个从副本,将选取的从副本复制到另一个正常可用、且没有该分片副本的片服务器中,得到一个新的从副本。复制完成后,再从该分片当前的所有副本中选举出主副本,即完成了该分片的修复。
但是,在上述技术中,由于分片副本的数据量通常很大,导致分片副本的复制过程非常耗时,而在复制过程中,分片无法进行数据读写。
发明内容
本申请提供了一种数据修复方法、分布式存储系统、电子设备及计算机可读存储介质,能够使分片在修复过程中实现数据读写。具体方式如下。
第一方面,本申请提供了一种数据修复方法,应用于分布式存储系统,所述分布式存储系统包括多个片服务器,所述系统中的每个数据表包括多个分片,每个所述分片具有多个副本,所述分片的多个副本分别存储在不同的所述片服务器,所述分片的多个副本包括一个主副本和至少一个从副本,所述方法包括:
当第一分片的主副本所在的片服务器停机时,从未存储有所述第一分片的副本的片服务器中,确定出用于存储所述第一分片的待修复副本的修复服务器;
从存储所述第一分片的从副本的片服务器和存储所述待修复副本的修复服务器中,确定出存储所述第一分片当前的主副本的片服务器;
将目标副本复制到所述修复服务器,以对所述待修复副本进行修复;所述目标副本为除所述待修复副本之外的所述第一分片的副本;
在复制所述目标副本的过程中,每当接收到对所述待修复副本的数据读取指令时,重定向至所述目标副本所在的片服务器读取数据;
在复制所述目标副本的过程中,每当接收到对所述第一分片的数据写入指令时,将待写入的数据写入所述第一分片当前的主副本所在的片服务器中的临时文件,并将所述临时文件同步至所述第一分片的每个从副本所在的片服务器。
第二方面,本申请实施例还提供了一种分布式存储系统,所述分布式存储系统包括多个片服务器,所述分布式存储系统中的每个数据表包括多个分片,每个所述分片具有多个副本,所述分片的多个副本分别存储在不同的所述片服务器,所述分片的多个副本包括一个主副本和至少一个从副本,所述分布式存储系统包括:
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于网易(杭州)网络有限公司,未经网易(杭州)网络有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211357828.3/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置