[发明专利]基于纠删码的数据存储方法及装置在审
申请号: | 202211268823.3 | 申请日: | 2022-10-17 |
公开(公告)号: | CN115577399A | 公开(公告)日: | 2023-01-06 |
发明(设计)人: | 王仲立;李舒;欧兆熊 | 申请(专利权)人: | 阿里巴巴(中国)有限公司 |
主分类号: | G06F21/78 | 分类号: | G06F21/78;G06F11/10 |
代理公司: | 北京同钧律师事务所 16037 | 代理人: | 杜叶蕊;许怀远 |
地址: | 311121 浙江省杭州市余杭*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 纠删码 数据 存储 方法 装置 | ||
本申请实施例提供一种基于纠删码的数据存储方法及装置,该方法包括:网卡单元获取待存储的第一数据,并将第一数据划分为多个原始数据块。网卡单元根据多个原始数据块进行纠删码处理,得到多个原始数据块所对应的至少一个校验数据块。网卡单元向第二存储服务器发送多个原始数据块和至少一个校验数据块,以使得第二存储服务器对原始数据块以及校验数据块进行存储。通过网卡单元接收到需要存储的第一数据之后,直接由网卡单元进行数据的切分、纠删码编码,以及在完成纠删码编码之后,也直接由网卡单元进行数据的传输,从而可以有效的降低纠删码处理过程中,存储服务器内部的带宽开销。
技术领域
本申请实施例涉及计算机技术,尤其涉及一种基于纠删码的数据存储方法及装置。
背景技术
纠删码是一种前向错误纠正技术,具有良好的容错性和安全性。分布式存储系统通常采用纠删码来实现数据的冗余,以提高存储可靠性。
目前,存储系统通常包括网卡、系统内存、CPU以及存储单元,现有技术中的存储系统在实现纠删码的时候,通常是由网卡首先接收用户数据,之后网卡通过数据传输链路,将用户数据发送给系统内存。然后CPU从系统内存中获取数据,并进行纠删码处理,在得到纠删码处理的码字之后,再将纠删码码字写入系统内存。然后网卡再从系统内存中获取纠删码码字,并写入存储单元。
然而,因为需要在系统内存内部通过数据传输链路进行多次的数据传输,进而会导致系统带宽开销较大,可能会导致存储系统的带宽瓶颈。
发明内容
本申请实施例提供一种基于纠删码的数据存储方法及装置,以克服存储服务器的纠删码处理过程中,系统带宽开销较大的问题。
第一方面,本申请实施例提供一种基于纠删码的数据存储方法,包括:
所述网卡单元获取待存储的第一数据,并将所述第一数据划分为多个原始数据块;
所述网卡单元根据所述多个原始数据块进行纠删码处理,得到所述多个原始数据块所对应的至少一个校验数据块;
所述网卡单元向第二存储服务器发送所述多个原始数据块和所述至少一个校验数据块,以使得所述第二存储服务器对所述原始数据块以及所述校验数据块进行存储。
第二方面,本申请实施例提供一种基于纠删码的数据存储装置,包括:
获取模块,用于获取待存储的第一数据,并将所述第一数据划分为多个原始数据块;
处理模块,用于根据所述多个原始数据块进行纠删码处理,得到所述多个原始数据块所对应的至少一个校验数据块;
传输模块,用于向第二存储服务器发送所述多个原始数据块和所述至少一个校验数据块,以使得所述第二存储服务器对所述原始数据块以及所述校验数据块进行存储。
第三方面,本申请实施例提供一种基于纠删码的数据存储设备,包括:
存储器,用于存储程序;
处理器,用于执行所述存储器存储的所述程序,当所述程序被执行时,所述处理器用于执行如上第一方面以及第一方面各种可能的设计中任一所述的方法。
第四方面,本申请实施例提供一种计算机可读存储介质,包括指令,当其在计算机上运行时,使得计算机执行如上第一方面以及第一方面各种可能的设计中任一所述的方法。
第五方面,本申请实施例提供一种计算机程序产品,包括计算机程序,所述计算机程序被处理器执行时实现如上第一方面以及第一方面各种可能的设计中任一所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴(中国)有限公司,未经阿里巴巴(中国)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211268823.3/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置