[发明专利]一种分布式存储系统中单节点上数据物理位置映射方法在审
申请号: | 202010094506.9 | 申请日: | 2020-02-16 |
公开(公告)号: | CN111309261A | 公开(公告)日: | 2020-06-19 |
发明(设计)人: | 陈鹏;赵靖荣;于超 | 申请(专利权)人: | 西安奥卡云数据科技有限公司 |
主分类号: | G06F3/06 | 分类号: | G06F3/06;G06F16/13;G06F12/0893 |
代理公司: | 西安维赛恩专利代理事务所(普通合伙) 61257 | 代理人: | 李明全 |
地址: | 712000 陕西省西*** | 国省代码: | 陕西;61 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 分布式 存储系统 节点 数据 物理 位置 映射 方法 | ||
本发明公开了一种分布式存储系统中单节点上数据物理位置映射方法,将待存储的数据分为预定大小的数据对象,并生成每个数据对象的数据摘要值;将数据对象和对应的数据摘要值写入到活跃区段中;其中,活跃区段为存储节点中用于写入当前数据对象的区段;当活跃区段写满数据后,将其存储至当前存储节点中,并生成数据对象的物理地址;其中,物理地址包括物理设备的设备ID、活跃区段存储时对应的区段号和数据对象在活跃区段中的偏移量;本发明通过活跃区段存储满后,再统一存储至物理设备中,将原有的小块数据随机存转化为大块数据顺序存储,降低物理磁盘的写入放大,提升物理磁盘性能。
【技术领域】
本发明属于计算机存储技术领域,尤其涉及一种分布式存储系统中单节点上数据物理位置映射方法。
【背景技术】
随着大数据时代的降临,业务应用对存储空间的需求越来越大,性能越来越高。海量的数据对存储的要求已经远远超出了传统的多控存储系统所能承受的范围。没有哪一套单机的存储能够提供如此大的数据存储能力。存储系统正在向着大规模、分布式、虚拟化方向发展。
在现有节点中,进行数据存储时均是将数据分为多个小的数据对象,然后随机存储在节点上,这样一来,由于数据的小块随机存储会给存储节点带来写入放大,进而导致物理磁盘性能降低。
【发明内容】
本发明的目的是提供一种分布式存储系统中单节点上数据物理位置映射方法,通过将数据的小块随机存储转变为大块顺序存储,降低物理磁盘的写入放大,提升物理磁盘性能。
本发明采用以下技术方案:一种分布式存储系统中单节点上数据物理位置映射方法,包括:
将待存储的数据分为预定大小的数据对象,并生成每个数据对象的数据摘要值;
将数据对象和对应的数据摘要值写入到活跃区段中;其中,活跃区段为存储节点中用于写入当前数据对象的区段;
当活跃区段写满数据后,将其存储至当前存储节点中,并生成数据对象的物理地址;其中,物理地址包括物理设备的设备ID、活跃区段存储时对应的区段号和数据对象在活跃区段中的偏移量。
进一步地,生成数据对象的物理地址后还包括:
获取数据对象对应的数据摘要值和物理地址;
将数据摘要值和物理地址存储至索引分区的对应索引桶中;
截取数据摘要值中的部分内容生成下标,存储至对应索引桶中的下标区中。
进一步地,活跃区段的生成方法为:
获取存储节点的区段信息表;
根据区段信息表将存储节点上的多个空闲区段加载至非易失存储器上;
创建区段指针,依次指向加载至非易失存储器上的多个空闲区段;
获取区段指针当前指向的空闲区段,作为活跃区段。
进一步地,存储节点的区段信息表的建立方法为:
获取存储节点中每个物理设备的设备ID和容量信息;
按照预定空间大小将每个物理设备中的容量分为多个区段;
将每个物理设备的第一个区段作为超级区段,用于存储该物理设备的基本信息;
获取每个物理设备上的非超级区段信息,生成区段信息表。
进一步地,每个非超级区段的数据结构均包括区段头和区段数据区;其中,区段头用于存储区段的描述信息,包括剩余空间的起始位置和结束为止;区段数据区用于存储数据对象和区段日志。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于西安奥卡云数据科技有限公司,未经西安奥卡云数据科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010094506.9/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置