[发明专利]一种数据处理方法及系统在审
申请号: | 202011565888.5 | 申请日: | 2020-12-25 |
公开(公告)号: | CN114676160A | 公开(公告)日: | 2022-06-28 |
发明(设计)人: | 王扬 | 申请(专利权)人: | 北京神州泰岳软件股份有限公司 |
主分类号: | G06F16/2455 | 分类号: | G06F16/2455;G06F16/27 |
代理公司: | 北京国标律师事务所 11753 | 代理人: | 董琪;姚克枫 |
地址: | 100080 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及一种数据处理方法及系统,适用于大数据处理框架,所述框架包括处理引擎、HBase和ElasticSearch,所述方法步骤如下:处理引擎接收数据发送端的数据流,将数据流包含的明细数据录入到HBase中;并对录入HBase中的明细数据进行实时汇总,并周期性对HBase中数据进行查询;HBase向处理引擎返回数据结果集,即HBase数据检索信息;处理引擎将查询到的HBase数据检索信息存储在ElasticSearch;生成并维护HBase数据检索信息和ElasticSearch数据的映射关系。通过本发明的方案确保数据从HBase转存ElasticSearch具有高可用性,降低数据转存ElasticSearch的延迟,提高数据准确度,降低冗余数据,优化了磁盘空间。 | ||
搜索关键词: | 一种 数据处理 方法 系统 | ||
【主权项】:
暂无信息
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京神州泰岳软件股份有限公司,未经北京神州泰岳软件股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/202011565888.5/,转载请声明来源钻瓜专利网。