[发明专利]一种实时计算大数据系统和方法在审
申请号: | 201811257717.9 | 申请日: | 2018-10-26 |
公开(公告)号: | CN109542946A | 公开(公告)日: | 2019-03-29 |
发明(设计)人: | 张辉 | 申请(专利权)人: | 贵州斯曼特信息技术开发有限责任公司 |
主分类号: | G06F16/2458 | 分类号: | G06F16/2458;G06F16/25 |
代理公司: | 重庆市信立达专利代理事务所(普通合伙) 50230 | 代理人: | 包晓静 |
地址: | 550000 贵州省贵阳市贵阳国家高新*** | 国省代码: | 贵州;52 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明属于大数据计算技术领域,公开了一种实时计算大数据系统和方法,所述实时计算大数据系统包括:数据采集模块、数据解析模块、主控模块、分配模块、并行处理模块、合并模块、日志处理模块、数据存储模块、显示模块。本发明通过数据解析模块可以快速地实现业务逻辑的开发及替换;同时,通过日志处理模块运用大数据存储和计算实现将日志数据进行时间序列化,形成数据流,并且整个服务器集群的数据采集和数据流都用相同的时间序列;整个集群采用相同的时间序列,实现集群数量庞大的服务器,可以通过时间序列进行时间维度的数据快速汇聚,快速访问某个时间的服务器性能,并通过大数据分析集群的实时数据流。 | ||
搜索关键词: | 大数据 时间序列 实时计算 日志处理模块 数据解析模块 数据流 集群 计算技术领域 数据采集模块 数据存储模块 服务器集群 服务器性能 实时数据流 并行处理 分配模块 分析集群 合并模块 快速访问 日志数据 时间维度 数据采集 显示模块 业务逻辑 主控模块 服务器 替换 存储 汇聚 开发 | ||
【主权项】:
1.一种实时计算大数据方法,其特征在于,所述实时计算大数据方法包括:步骤一,网络采集客户数据资源,解析算法对大数据的实时流数据进行结构化解析;步骤二,数据分配程序将采集的数据资源分配进行并行处理;步骤三,利用多粒度并行算法处理采集的数据,生成并行结果;通过合并算法将并行结果进行合并,生成处理结果;步骤四,日志处理软件对将日志数据进行时间序列化,形成数据流进行处理;步骤五,将采集的数据资源进行存储,并通过显示器显示采集的数据信息。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于贵州斯曼特信息技术开发有限责任公司,未经贵州斯曼特信息技术开发有限责任公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201811257717.9/,转载请声明来源钻瓜专利网。