[发明专利]数据修复方法、分布式存储系统、电子设备及存储介质在审

专利信息
申请号: 202211357828.3 申请日: 2022-11-01
公开(公告)号: CN115827319A 公开(公告)日: 2023-03-21
发明(设计)人: 徐帅;刘勇成;胡志鹏;袁思思;程龙 申请(专利权)人: 网易(杭州)网络有限公司
主分类号: G06F11/14 分类号: G06F11/14;G06F16/27
代理公司: 北京清源汇知识产权代理事务所(特殊普通合伙) 11644 代理人: 冯德魁
地址: 310052 浙江省杭州*** 国省代码: 浙江;33
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 数据 修复 方法 分布式 存储系统 电子设备 存储 介质
【说明书】:

本申请公开了一种数据修复方法、分布式存储系统、电子设备及存储介质。该方法包括:第一分片主副本所在的片服务器停机时,确定出用于存储第一分片待修复副本的修复服务器;从存储第一分片副本的服务器中,确定出当前主副本;将目标副本复制到修复服务器,以对待修复副本进行修复,目标副本为除待修复副本之外的第一分片副本;复制过程中,每当接收到对待修复副本的数据读取指令时,重定向至目标副本所在的片服务器读取数据;复制过程中,每当接收到对第一分片的数据写入指令时,将待写入的数据写入第一分片当前主副本所在片服务器中的临时文件,并将临时文件同步至第一分片的每个从副本所在的片服务器。该方法可实现分片修复过程中的数据读写。

技术领域

本申请涉及大数据技术领域,具体涉及一种数据修复方法、分布式存储系统、电子设备及计算机可读存储介质。

背景技术

随着大数据技术的不断发展,分布式存储系统的应用也越来越广泛,分布式存储系统可以为大数据的分析、处理带来极大的便利。

其中,Kudu系统是一种可运行在hadoop平台的分布式存储系统,具有高可用性。Kudu系统中的一个数据表(table)由多个分片(tablet)组成,每个分片在多个片服务器中均有副本,其中一个是主副本,主副本可读数据也可写数据,其他则是从副本,从副本只可读数据。读取分片数据的多个请求,会被分配到不同的副本进行数据读取,以提高读取效率。然而,当一个分片的主副本所在的片服务器发生停机时,由于缺失主副本而无法写入数据,导致该分片及该分片所属的数据表均变成了不可用的状态。

在相关技术中,为修复该分片,可以随机选取该分片的一个从副本,将选取的从副本复制到另一个正常可用、且没有该分片副本的片服务器中,得到一个新的从副本。复制完成后,再从该分片当前的所有副本中选举出主副本,即完成了该分片的修复。

但是,在上述技术中,由于分片副本的数据量通常很大,导致分片副本的复制过程非常耗时,而在复制过程中,分片无法进行数据读写。

发明内容

本申请提供了一种数据修复方法、分布式存储系统、电子设备及计算机可读存储介质,能够使分片在修复过程中实现数据读写。具体方式如下。

第一方面,本申请提供了一种数据修复方法,应用于分布式存储系统,所述分布式存储系统包括多个片服务器,所述系统中的每个数据表包括多个分片,每个所述分片具有多个副本,所述分片的多个副本分别存储在不同的所述片服务器,所述分片的多个副本包括一个主副本和至少一个从副本,所述方法包括:

当第一分片的主副本所在的片服务器停机时,从未存储有所述第一分片的副本的片服务器中,确定出用于存储所述第一分片的待修复副本的修复服务器;

从存储所述第一分片的从副本的片服务器和存储所述待修复副本的修复服务器中,确定出存储所述第一分片当前的主副本的片服务器;

将目标副本复制到所述修复服务器,以对所述待修复副本进行修复;所述目标副本为除所述待修复副本之外的所述第一分片的副本;

在复制所述目标副本的过程中,每当接收到对所述待修复副本的数据读取指令时,重定向至所述目标副本所在的片服务器读取数据;

在复制所述目标副本的过程中,每当接收到对所述第一分片的数据写入指令时,将待写入的数据写入所述第一分片当前的主副本所在的片服务器中的临时文件,并将所述临时文件同步至所述第一分片的每个从副本所在的片服务器。

第二方面,本申请实施例还提供了一种分布式存储系统,所述分布式存储系统包括多个片服务器,所述分布式存储系统中的每个数据表包括多个分片,每个所述分片具有多个副本,所述分片的多个副本分别存储在不同的所述片服务器,所述分片的多个副本包括一个主副本和至少一个从副本,所述分布式存储系统包括:

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于网易(杭州)网络有限公司,未经网易(杭州)网络有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202211357828.3/2.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top