[发明专利]数据库写入的方法和数据库系统有效
申请号: | 201710009722.7 | 申请日: | 2017-01-06 |
公开(公告)号: | CN107016039B | 公开(公告)日: | 2020-11-03 |
发明(设计)人: | 杜炼;朱旭光;唐欣 | 申请(专利权)人: | 创新先进技术有限公司 |
主分类号: | G06F16/23 | 分类号: | G06F16/23;G06F16/27 |
代理公司: | 北京国昊天诚知识产权代理有限公司 11315 | 代理人: | 黄熊 |
地址: | 英属开曼群岛大开曼*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据库 写入 方法 系统 | ||
1.一种Hbase数据库的写入方法,其特征在于,所述方法包括:
在第一流处理节点接收流分发节点分发的第一日志数据,所述流分发节点为读取准备写入到Hbase数据库的原始日志数据并分发的消息流的源节点,所述第一流处理节点为直接接收到所述流分发节点分发的数据的消息流处理节点;
在第一流处理节点中解析处理所述第一日志数据中的日志得到第二日志数据,并确定所述第二日志数据中日志对应的表格和区域;
在第一流处理节点将所述第二日志数据中的日志携带的内容按照表格和区域路由到对应的第二流处理节点,所述第二流处理节点为所述流分发节点的末端消息流处理节点;
在第二流处理节点将接收到的日志按照表格和区域进行合并形成第三日志数据,其中,在所述第二流处理节点中,将接收到的日志按照表格和区域进行合并,是指将属于同一表格的同一区域的日志数据合并到一个区域中;
在第二流处理节点将所述第三日志数据中表格名称为第一表格,区域标识为第一区域标识的数据,通过Hbase数据库中所述第一表格和所述第一区域标识对应的区域服务器,以推送put操作的方式写入所述第一表格和所述第一区域标识对应的区域。
2.如权利要求1所述的方法,其特征在于,所述在第一流处理节点中解析处理所述第一日志数据中的日志得到第二日志数据,并确定所述第二日志数据中日志对应的表格和区域包括:
在第一流处理节点中解析处理所述第一日志数据中的日志进行结构化处理得到结构化的日志数据;
在第一流处理节点中按照所述结构化的日志数据所属的表和关键字key对所述结构化的日志数据进行索引;
在第一流处理节点中按照表格、索引和预定时间版本,或者按照表格和索引对所述结构化的日志数据进行内容合并形成所述第二日志数据;
在第一流处理节点中根据表格和索引确定所述第二日志数据中日志对应的表格和区域。
3.如权利要求1所述的方法,其特征在于,在第一流处理节点将所述第二日志数据中的日志携带的内容按照表格和区域路由到对应的第二流处理节点包括:
在第一流处理节点将所述第二日志数据中的日志发送给第三流处理节点,所述第三流处理节点为在第一流处理节点和第二流处理节点之间传递所述第二日志数据的内容的消息处理者节点;
在第三流处理节点将按照表格、索引和预定时间版本,或者按照表格和索引对接收到的所述第二日志数据进行内容合并形成第四日志数据;
在第三流处理节点将所述第四日志数据携带的内容按照表格和区域路由到对应的第二流处理节点。
4.如权利要求2或3所述的方法,其特征在于,
当按照表格、索引和预定时间版本进行合并时,所述预定时间版本为30秒版本、1分钟版本、5分钟版本或10分钟版本。
5.如权利要求1-3中任一项所述的方法,其特征在于,
将所述第三日志数据中表格名称为第一表格,区域标识为第一区域标识的数据,通过Hbase数据库中所述第一表格和所述第一区域标识对应的区域服务器,以put操作的方式写入所述第一表格和所述第一区域标识对应的区域,包括:
当所述第三日志数据中表格名称为第一表格,区域标识为第一区域标识的数据大于或等于第一预定阈值时,将所述第三日志数据中表格名称为第一表格,区域标识为第一区域标识的数据,通过Hbase数据库中所述第一表格和所述第一区域标识对应的区域服务器,以put操作的方式写入所述第一表格和所述第一区域标识对应的区域。
6.如权利要求1-3中任一项所述的方法,其特征在于,
将所述第三日志数据中表格名称为第一表格,区域标识为第一区域标识的数据,通过Hbase数据库中所述第一表格和所述第一区域标识对应的区域服务器,以put操作的方式写入所述第一表格和所述第一区域标识对应的区域,包括:
当距离所述第三日志数据中表格名称为第一表格,区域标识为第一区域标识的数据写入所述Hbase数据库的时间大于或等于第二预定阈值时,将所述第三日志数据中表格名称为第一表格,区域标识为第一区域标识的数据,通过Hbase数据库中所述第一表格和所述第一区域标识对应的区域服务器,以put操作的方式写入所述第一表格和所述第一区域标识对应的区域。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于创新先进技术有限公司,未经创新先进技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710009722.7/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种无卤阻燃PC耐力板
- 下一篇:一种智能家居安防系统