[发明专利]一种热数据高性能存储架构在审
申请号: | 201911102682.6 | 申请日: | 2019-11-12 |
公开(公告)号: | CN111046099A | 公开(公告)日: | 2020-04-21 |
发明(设计)人: | 冯报安;杨晶生 | 申请(专利权)人: | 上海麦克风文化传媒有限公司 |
主分类号: | G06F16/27 | 分类号: | G06F16/27;G06F3/06 |
代理公司: | 上海九泽律师事务所 31337 | 代理人: | 周云;卢双双 |
地址: | 200030 上海市*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 性能 存储 架构 | ||
1.一种热数据高性能存储架构,其特征在于,包括开源处理平台Kafka和Hbase开源数据库,所述热数据包括7天内的热点业务数据,且热数据的存储过程包括以下步骤:
S1、监听来自于开源的消息队列Kafka的实时日志数据;
S2、将日志数据实时存入Hbase中,同时设置自动过期时间(如7天);
S3、由Hbase向外提供高性能的随机读写操作;
S4、每日定时将前一日数据进行聚合同步归档至其他低性能但低价的数据库。
2.根据权利要求1所述的一种热数据高性能存储架构,其特征在于,所述步骤S1中Kafka的安装方式包括以下步骤:
A1、进入Kafka配置目录,D:\dev\kafka_2.12-1.0.1;
A2、编辑文件“server.properties”;
A3、找到并编辑log.dirs=D:\\dev\\kafka_2.12-1.0.1\\tmp。
3.根据权利要求2所述的一种热数据高性能存储架构,其特征在于,所述步骤S1中用于监听开源处理平台Kafka的方式包括以下操作步骤:
B1、安装zookeeper,进入Zookeeper设置目录,笔者D:\dev\zookeeper-3.4.10\conf;
B2、将“zoo_sample.cfg”重命名为“zoo.cfg”;
B3、在任意文本编辑器(如notepad)中打开zoo.cfg;
B4、找到并编辑dataDir=D:\\dev\\zookeeper-3.4.10\\temp
B5、运行zookeeper,D:\dev\zookeeper-3.4.10\bin\zkServer.cmd;
B6、进入Kafka安装目录D:\dev\kafka_2.12-1.0.1;
B7、按下Shift+右键,选择“打开命令窗口”选项,打开命令行;
B8、现在输入.\bin\windows\kafka-server-start.bat.\con fig\server.properties。
4.根据权利要求1所述的一种热数据高性能存储架构,其特征在于,所述步骤S2中使用SSD硬盘来作为硬件用于存储业务数据并提供良好性能。
5.根据权利要求1所述的一种热数据高性能存储架构,其特征在于,所述步骤S3中Hbase提供的get方法提供了批量获取数据方法,通过组装一个list<Get>gets即可实现。
6.根据权利要求1所述的一种热数据高性能存储架构,其特征在于,所述步骤S4中的低价数据库选用MySQL数据库,且MySQL数据库具有双节点架构、自动容灾的特点,对比云主机自建能够减少40%的成本开销。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于上海麦克风文化传媒有限公司,未经上海麦克风文化传媒有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911102682.6/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置