[发明专利]存储系统、数据管理方法及存储介质有效
申请号: | 201911021948.4 | 申请日: | 2019-10-25 |
公开(公告)号: | CN110764706B | 公开(公告)日: | 2023-10-03 |
发明(设计)人: | 陈白杨;许海涛 | 申请(专利权)人: | 普联技术有限公司 |
主分类号: | G06F3/06 | 分类号: | G06F3/06 |
代理公司: | 深圳中一联合知识产权代理有限公司 44414 | 代理人: | 刘永康 |
地址: | 518000 广东省深圳市南山区深南路科技*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 存储系统 数据管理 方法 存储 介质 | ||
本申请适用于数据管理技术领域,提供了存储系统、数据管理方法及存储介质,其中存储系统通过对存储系统内部结构进行划分,将磁盘划分为存储视频数据的第一存储区和存储索引数据的第二存储区,且使用索引数据管理器事先存储索引数据,在索引数据管理器的索引数据量达到预设数据阈值时再将索引数据存入第二存储区中,使得索引数据和存储数据不会同时写入磁盘中,减少占用磁盘IO,充分利用磁盘性能,提升磁盘写入效率。
技术领域
本申请属于数据管理技术领域,尤其涉及存储系统、数据管理方法及存储介质。
背景技术
现有存储技术中,直接在嵌入式中实现存储数据存在一定问题,如使用文件系统存储视频数据文件,问题在于将视频数据文件以定长数据文件存储时,在定长数据文件句柄数过多会成为读写速度瓶颈,对数据写入速度造成一定影响,并且容易导致断电数据丢失,数据管理分散会导致严重的体验下降等。或者,使用使用混合流裸盘存储数据,问题在于,存储的数据过于分散,导致数据读取性能严重下降。另外,使用存储系统中的内存数据库存储索引数据,即使索引数据相对于视频数据大小较小,但也将消耗过大的内存,并且大量索引数据在内存中也会导致重启恢复速度过慢。
综上所述,目前存储技术中,存在数据存储大量占用磁盘输入/输出端(IO)的情况,导致数据读取与写入速度慢的问题。
发明内容
本申请实施例提供了存储系统、数据管理方法及存储介质,可以解决现有技术中,存在数据存储大量占用磁盘输入/输出端(IO)的情况,导致数据读取与写入速度慢的问题。
第一方面,本申请实施例提供一种存储系统,所述存储系统包括索引数据管理器、数据读写模块和磁盘,所述磁盘包括第一存储区和第二存储区;
所述索引数据管理器连接第二存储区,所述索引数据管理器用于生成所述第一存储数据的索引数据,并当生成的索引数据量达到预设数据阈值时,生成索引数据文件发送至所述第二存储区;
所述数据读写模块连接所述第一存储区,所述数据读写模块用于实时获取所述第一存储数据的数据片段,并将所述数据片段读写至所述第一存储区中;其中,所述第一存储区分为多个存储分区。
第二方面,本申请实施例提供了一种数据管理方法,应用于存储系统,方法包括:
获取第一存储数据中的数据片段;
将所述数据片段实时写入第一存储区中;
生成索引数据,将所述索引数据写入索引数据管理器中;其中,所述索引数据用于索引第一存储数据,所述索引数据管理器用于当存储在所述索引数据管理器的索引数据量达到预设数据阈值时,生成索引数据文件;
将所述索引数据文件写入第二存储区中。
在一实施例中,所述存储系统包括多个所述第一存储区,每个第一存储区分为多个存储分区,所述第一存储数据中包括多个数据片段,所述存储系统还包括客户端;
所述将所述数据片段实时写入第一存储区中,包括:
根据所述客户端的客户端通道选择对应的存储分区;
获取所述存储分区的可存储区域;
判断所述第一存储数据中的第一个数据片段的数据量是否小于所述可存储区域的存储量;
若所述第一存储数据中的第一个数据片段的数据量小于所述可存储区域的存储量,则将所述第一个数据片段实时写入所述存储分区。
在一实施例中,所述索引数据包括事件索引数据,所述事件索引数据用于记录存储数据信息;
所述生成索引数据,将所述索引数据写入所述索引数据管理器中,包括:
获取所述第一存储数据中第一个数据片段的第一时间戳信息;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于普联技术有限公司,未经普联技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911021948.4/2.html,转载请声明来源钻瓜专利网。
- 上一篇:一种数据的读写方法、装置、设备和存储介质
- 下一篇:数据处理方法及装置