[发明专利]一种基于实时流式计算的数据平台系统在审
申请号: | 201910397951.X | 申请日: | 2019-05-14 |
公开(公告)号: | CN110209646A | 公开(公告)日: | 2019-09-06 |
发明(设计)人: | 钟证业;毕军;胡雨成;胥小燕 | 申请(专利权)人: | 汇通达网络股份有限公司 |
主分类号: | G06F16/182 | 分类号: | G06F16/182;G06F16/2458;G06F9/48 |
代理公司: | 江苏圣典律师事务所 32237 | 代理人: | 吴庭祥 |
地址: | 210008 江苏省*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种基于实时流式计算的数据平台系统,包括:获取预定数据的行为数据信息并存储,将所述预定数据转换成一系列短小的数据流,可以实现高吞吐量的、具备容错机制的实时流数据的处理。该系统通过将预定数据的行为数据信息转换成一系列短小的批处理作业并进行解析及提取关键信息,从而实现了将大批量数据转换成微批量数据,并通过分布式方式对数据进行快速计算,达到吞吐量大、低延迟的效果,以满足数据投放系统对高时效性的要求及适用对于时间延迟敏感的业务。 | ||
搜索关键词: | 预定数据 实时流 数据平台系统 行为数据信息 批处理 分布式方式 数据流 高吞吐量 关键信息 快速计算 批量数据 容错机制 数据转换 投放系统 低延迟 时效性 转换 吞吐量 解析 存储 敏感 | ||
【主权项】:
1.一种基于实时流式计算的数据平台系统,其特征在于,包括数据源模块、实时数据计算模块、数据看板展示模块和作业调度管理平台;其中,所述数据源模块负责配置数据源连接信息,抽取业务需要计算和实时同步的数据;所述实时数据计算模块负责实时数据计算和存储,并负责每个节点的资源管理和调度;所述数据看板展示模块用于交互分析;所述作业调度管理平台负责工作流的配置、实时计算调度任务的正常运行以及定时调度工作流,确保数据的准确性。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于汇通达网络股份有限公司,未经汇通达网络股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201910397951.X/,转载请声明来源钻瓜专利网。