[发明专利]一种热数据高性能存储架构在审

专利信息
申请号: 201911102682.6 申请日: 2019-11-12
公开(公告)号: CN111046099A 公开(公告)日: 2020-04-21
发明(设计)人: 冯报安;杨晶生 申请(专利权)人: 上海麦克风文化传媒有限公司
主分类号: G06F16/27 分类号: G06F16/27;G06F3/06
代理公司: 上海九泽律师事务所 31337 代理人: 周云;卢双双
地址: 200030 上海市*** 国省代码: 上海;31
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 数据 性能 存储 架构
【权利要求书】:

1.一种热数据高性能存储架构,其特征在于,包括开源处理平台Kafka和Hbase开源数据库,所述热数据包括7天内的热点业务数据,且热数据的存储过程包括以下步骤:

S1、监听来自于开源的消息队列Kafka的实时日志数据;

S2、将日志数据实时存入Hbase中,同时设置自动过期时间(如7天);

S3、由Hbase向外提供高性能的随机读写操作;

S4、每日定时将前一日数据进行聚合同步归档至其他低性能但低价的数据库。

2.根据权利要求1所述的一种热数据高性能存储架构,其特征在于,所述步骤S1中Kafka的安装方式包括以下步骤:

A1、进入Kafka配置目录,D:\dev\kafka_2.12-1.0.1;

A2、编辑文件“server.properties”;

A3、找到并编辑log.dirs=D:\\dev\\kafka_2.12-1.0.1\\tmp。

3.根据权利要求2所述的一种热数据高性能存储架构,其特征在于,所述步骤S1中用于监听开源处理平台Kafka的方式包括以下操作步骤:

B1、安装zookeeper,进入Zookeeper设置目录,笔者D:\dev\zookeeper-3.4.10\conf;

B2、将“zoo_sample.cfg”重命名为“zoo.cfg”;

B3、在任意文本编辑器(如notepad)中打开zoo.cfg;

B4、找到并编辑dataDir=D:\\dev\\zookeeper-3.4.10\\temp

B5、运行zookeeper,D:\dev\zookeeper-3.4.10\bin\zkServer.cmd;

B6、进入Kafka安装目录D:\dev\kafka_2.12-1.0.1;

B7、按下Shift+右键,选择“打开命令窗口”选项,打开命令行;

B8、现在输入.\bin\windows\kafka-server-start.bat.\con fig\server.properties。

4.根据权利要求1所述的一种热数据高性能存储架构,其特征在于,所述步骤S2中使用SSD硬盘来作为硬件用于存储业务数据并提供良好性能。

5.根据权利要求1所述的一种热数据高性能存储架构,其特征在于,所述步骤S3中Hbase提供的get方法提供了批量获取数据方法,通过组装一个list<Get>gets即可实现。

6.根据权利要求1所述的一种热数据高性能存储架构,其特征在于,所述步骤S4中的低价数据库选用MySQL数据库,且MySQL数据库具有双节点架构、自动容灾的特点,对比云主机自建能够减少40%的成本开销。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海麦克风文化传媒有限公司,未经上海麦克风文化传媒有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201911102682.6/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top