[发明专利]一种面向快速服务的大数据聚合方法及系统在审
申请号: | 202211181702.5 | 申请日: | 2022-09-27 |
公开(公告)号: | CN115438250A | 公开(公告)日: | 2022-12-06 |
发明(设计)人: | 耿志强;胡凤霞;冯大成 | 申请(专利权)人: | 北京赛博贝斯数据科技有限责任公司 |
主分类号: | G06F16/953 | 分类号: | G06F16/953;G06F16/27;G06F16/2455 |
代理公司: | 北京冠和权律师事务所 11399 | 代理人: | 张树朋 |
地址: | 100000 北京市昌平区沙*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 面向 快速 服务 数据 聚合 方法 系统 | ||
1.一种面向快速服务的大数据聚合方法,其特征在于,包括:
S100,将面向快速服务的大数据通过数据异构,获得快速服务大数据多维信息;
S200,将大数据多维信息通过联机处理节点进行预聚合联机分析处理,获得联机预聚合多维信息;
S300,将联机预聚合多维信息进行大数据桶型聚合及大数据度量聚合,获得大数据第一聚合结果;
S400,对大数据第一聚合结果进行管道聚合,获得大数据第二聚合结果,实现面向快速服务的大数据异构多维聚合。
2.根据权利要求1所述的一种面向快速服务的大数据聚合方法,其特征在于,所述S100包括:
S101,将面向快速服务的大数据按照服务类型进行分类拆分为多种服务类型数据;
S102,对多种服务类型数据进行数据异构处理,获得服务类型异构处理数据;
S103,将服务类型异构处理数据进行维度升级,获得快速服务大数据多维信息。
3.根据权利要求1所述的一种面向快速服务的大数据聚合方法,其特征在于,所述S200包括:
S201,将大数据多维信息按照设定范围联机处理节点数量,分别分发到设定范围联机处理节点;
S202,建立设定范围联机处理节点的预聚合联机分析处理框架;
S203,根据聚合联机分析处理框架进行预聚合联机分析处理,获得联机预聚合多维信息。
4.根据权利要求1所述的一种面向快速服务的大数据聚合方法,其特征在于,所述S300包括:
S301,将联机预聚合多维信息进行集中备份,获得预聚合多维信息集中备份数据;
S302,将预聚合多维信息集中备份数据进行大数据桶型聚合,获得桶型聚合数据;
S303,将桶型聚合数据进行大数据度量聚合,获得大数据第一聚合结果。
5.根据权利要求1所述的一种面向快速服务的大数据聚合方法,其特征在于,所述S400包括:
S401,将大数据第一聚合结果传输到数据管道聚合的数据处理管道输入端;
S402,数据处理管道输入端将大数据第一聚合结果分型并传入各数据处理管道,进行管道聚合处理;
S403,通过管道聚合处理,获得大数据第二聚合结果,实现面向快速服务的大数据异构多维聚合。
6.一种面向快速服务的大数据聚合系统,其特征在于,包括:
数据异构多维构建模块,将面向快速服务的大数据通过数据异构,获得快速服务大数据多维信息;
预聚合联机分析模块,将大数据多维信息通过联机处理节点进行预聚合联机分析处理,获得联机预聚合多维信息;
多维信息递进聚合模块,将联机预聚合多维信息进行大数据桶型聚合及大数据度量聚合,获得大数据第一聚合结果;
管道聚合快速响应模块,对大数据第一聚合结果进行管道聚合,获得大数据第二聚合结果,实现面向快速服务的大数据异构多维聚合。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京赛博贝斯数据科技有限责任公司,未经北京赛博贝斯数据科技有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211181702.5/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种企业大数据可视化建模方法及系统
- 下一篇:抗振动单轨吊结构
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置