[发明专利]基于对象存储系统的数据存储方法及装置、电子设备在审
申请号: | 202010705650.1 | 申请日: | 2020-07-21 |
公开(公告)号: | CN111857592A | 公开(公告)日: | 2020-10-30 |
发明(设计)人: | 张宏瑞;张旭明;王豪迈;胥昕 | 申请(专利权)人: | 星辰天合(北京)数据科技有限公司 |
主分类号: | G06F3/06 | 分类号: | G06F3/06;G06F16/901 |
代理公司: | 北京康信知识产权代理有限责任公司 11240 | 代理人: | 董文倩 |
地址: | 100097 北京市海淀区蓝*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 对象 存储系统 数据 存储 方法 装置 电子设备 | ||
本发明公开了一种基于对象存储系统的数据存储方法及装置、电子设备。其中,该方法包括:获取对象存储节点上的硬盘数量;基于硬盘数量创建不同数据安全类型的存储池;基于存储池,创建对象存储策略,其中,存储策略用于指示对象数据的读写规则;基于对象存储策略执行对象数据的存储。本发明解决了相关技术中数据池扩容带来数据读写性能下降的技术问题。
技术领域
本发明涉及数据存储技术领域,具体而言,涉及一种基于对象存储系统的数据存储方法及装置、电子设备。
背景技术
相关技术中,对象存储系统的存储池可以分为索引池和独立的持久化数据池,通过客户端写入不同大小的对象数据,其中,对象数据中的元数据部分会存放在索引池中,数据部分会经过缓存、归并等流程写入到独立的持久化数据池,当客户端对对象进行读取时,先访问元数据,根据元数据反馈的数据存储位置直接到对应的数据池中读取数据,然后返回给用户。
当独立的持久化数据池将要被写满时,为了避免数据不能持续写入,可以通过在现有的持久化数据池中添加新的硬盘或者增加新的存储节点,来保证业务的连续性。但是当前新增硬盘或者存储节点的方式存在多个弊端:
第一个弊端,添加硬盘或者存储节点,对于已经写入的数据要经过新一轮的自动重平衡,导致硬盘的利用率增加,占用更多的集群资源处理数据迁移,IO时延增加,影响前端业务IO的性能,带来读写性能下降;
第二个弊端,新旧数据存放在同一个存储池中,不能更加有效的区分冷热数据,同样会降低数据读写性能。
第三个弊端,由于对象数据存储过程中是采用随机性分配,导致多个数据池进行数据写入时,有的数据池写入数据较多,有的数据池写入数据较少,数据存储容量差异性较大,带来空间分配不均衡问题。
针对上述的问题,目前尚未提出有效的解决方案。
发明内容
本发明实施例提供了一种基于对象存储系统的数据存储方法及装置、电子设备,以至少解决相关技术中数据池扩容带来数据读写性能下降的技术问题。
根据本发明实施例的一个方面,提供了一种基于对象存储系统的数据存储方法,所述对象存储系统上包含多个对象存储节点,数据存储方法包括:获取对象存储节点上的硬盘数量;基于所述硬盘数量创建不同数据安全类型的存储池;基于所述存储池,创建对象存储策略,其中,所述存储策略用于指示对象数据的读写规则;基于所述对象存储策略执行对象数据的存储。
可选地,所述数据安全类型包括:多副本类型和纠删码类型。
可选地,在创建所述对象存储策略时,确定对象索引池和缓存池,其中,所述对象索引池用于存储对象元数据,所述缓存池用于缓存对象数据。
可选地,所述对象存储策略中包括:活动数据池和非活动数据池,多个所述活动数据池组合为活动池组,其中,所述活动数据池用于指示读写频率高于预设频率阈值的存储池,所述非活动数据池用于指示读写频率低于等于预设频率阈值的访问频率的存储池。
可选地,基于所述对象存储策略执行对象数据的存储的步骤,包括:基于所述对象存储策略,创建存储桶,其中,所述存储桶用于写入对象数据,以实现所述对象数据的存储。
可选地,在对象数据写入至所述存储桶中的活动数据池后,更新对象索引信息,其中,所述对象索引信息用于记录所述对象数据的写入位置。
可选地,在基于所述对象存储策略执行对象数据的存储之后,所述数据存储方法还包括:设置所述活动池组中每个所述活动数据池的多个属性参数,其中,所述属性参数至少包括:写权重、写入次数;基于所述多个属性参数,计算每个活动数据池的对象写入系数;对所有的对象写入系数进行排序,得到排序结果;基于所述排序结果,将对象写入系数最小的活动数据池作为当前写入数据池。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于星辰天合(北京)数据科技有限公司,未经星辰天合(北京)数据科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010705650.1/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置