[发明专利]面向流数据处理的分级存储容错方法在审
申请号: | 202110170616.3 | 申请日: | 2021-02-08 |
公开(公告)号: | CN112799597A | 公开(公告)日: | 2021-05-14 |
发明(设计)人: | 毛瀚宇;聂铁铮;张岩峰;谷峪;鲍玉斌;于戈 | 申请(专利权)人: | 东北大学 |
主分类号: | G06F3/06 | 分类号: | G06F3/06 |
代理公司: | 沈阳东大知识产权代理有限公司 21109 | 代理人: | 梁焱 |
地址: | 110819 辽宁*** | 国省代码: | 辽宁;21 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供一种面向流数据处理的分级存储容错方法,涉及流数据处理技术领域。该方法基于Kafka系统,采用HDD与SSD混合存储的二级存储结构,SSD为性能层、HDD为存储层,通过热数据识别算法建立相应的分级存储策略;热数据识别算法包括LFU算法与LRU算法,分别用于防止数据频繁迁移和判断热数据;分级存储策略包括自判断分级存储、Leader—Follower分级存储和自定义分级存储。本发明针对容错子系统在I/O操作和搜索效率问题,开展关于容错子系统和Kafka整体系统存储策略的研究,并实现流数据存储的相关优化和Kafka系统进行分级存储的策略迭代,进一步提升其延迟低、吞吐量高的优点。 | ||
搜索关键词: | 面向 数据处理 分级 存储 容错 方法 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于东北大学,未经东北大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202110170616.3/,转载请声明来源钻瓜专利网。