[发明专利]一种基于Flink流计算技术的多源异构数据实时处理系统及方法在审
| 申请号： | 201910495241.0 | 申请日： | 2019-06-10 |
| 公开（公告）号： | CN110245158A | 公开（公告）日： | 2019-09-17 |
| 发明（设计）人： | 肖荣;马思峻;陆晋军;郑荣;丁富强;姚磊;孙海 | 申请（专利权）人： | 上海理想信息产业（集团）有限公司 |
| 主分类号： | G06F16/2455 | 分类号： | G06F16/2455;G06F16/18 |
| 代理公司： | 上海国智知识产权代理事务所(普通合伙) 31274 | 代理人： | 潘建玲 |
| 地址： | 201315 上海*** | 国省代码： | 上海;31 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开了一种基于Flink流计算技术的多源异构数据实时处理系统及方法，该系统包括：数据采集侧，通过日志方式和/或SDK方式和/或MQ方式获取分散在多个系统组件中的异构数据，经初步处理后以连续流的方式发送给Kafka；任务管理平台侧，配置数据源类型、配置异构数据的清洗和切分规则以及配置数据集的维度和指标，并于所有配置完成后基于Flink流计算技术启动数据实时处理任务，于数据实时计算后根据数据集定义存储；数据展现和输出侧，获取数据集的结果输出，本发明可对现有业务系统中输出的多种来源不同结构的数据进行分析，找到日志事件和业务之间的相关性，以帮助运维人员提高效率，为现有的业务分析系统提供补充。 | ||
| 搜索关键词： | 多源异构数据 实时处理系统 配置数据 异构数据 输出 业务分析系统 数据集定义 初步处理 方式获取 获取数据 启动数据 任务管理 日志方式 日志事件 实时处理 实时计算 数据采集 数据展现 系统组件 业务系统 源类型 配置 维度 运维 清洗 存储 补充 分析 帮助 | ||
【主权项】：
1.一种基于Flink流计算技术的多源异构数据实时处理系统，包括：数据采集侧，用于通过日志方式和/或SDK方式和/或MQ方式同时获取分散在多个系统组件中的异构数据，经过初步处理后以连续流的方式发送给Kafka；任务管理平台侧，用于配置数据源类型、配置异构数据的清洗和切分规则以及配置数据集的维度和指标，并于所有配置完成后基于Flink流计算技术启动数据实时处理任务，并于数据实时计算后根据数据集定义存入存储单元；数据展现和输出侧，用于获取数据集中的结果以图表方式展现或者通过接口方式输出。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于上海理想信息产业（集团）有限公司，未经上海理想信息产业（集团）有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201910495241.0/，转载请声明来源钻瓜专利网。
