[发明专利]一种数据ETL系统及方法在审
| 申请号： | 201910158544.3 | 申请日： | 2019-03-01 |
| 公开（公告）号： | CN109840267A | 公开（公告）日： | 2019-06-04 |
| 发明（设计）人： | 朱亮;徐滢 | 申请（专利权）人： | 成都品果科技有限公司 |
| 主分类号： | G06F16/25 | 分类号： | G06F16/25 |
| 代理公司： | 成都高远知识产权代理事务所(普通合伙) 51222 | 代理人： | 谢一平;曾克 |
| 地址： | 610000 四川省成都市*** | 国省代码： | 四川;51 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明公开一种数据ETL系统，包括：Spark调度模块，数据ETL模块，Zeppelin Notebook模块，Airflow调度模块；所述Spark调度模块用于读取落地数据，将所述落地数据结构化，并将结构化的落地数据灌入所述数据ETL模块；所述数据ETL模块用于对接收的所述结构化的落地数据进行ETL操作，将ETL操作结果转换为Json数据，并将所述Json数据回写给所述Spark调度模块；所述Spark调度模块还用于将接收的所述Json数据结构化，获取结构化的Json数据；所述ZeppelinNotebook模块用于将所述结构化的Json数据进行加总处理，获取处理后数据，将所述处理后数据导入AWS Redshift中；所述Airflow调度模块用于对所述Spark调度模块、所述数据ETL模块、所述ZeppelinNotebook模块进行流程调度。本发明提供的技术方案，能够自动完成数据ETL过程，提高工作效率。 | ||
| 搜索关键词： | 调度模块 结构化 落地 数据结构化 读取 工作效率 结果转换 流程调度 自动完成 灌入 回写 加总 | ||
【主权项】：
1.一种数据ETL系统，其特征在于，包括：Spark调度模块，数据ETL模块，Zeppelin Notebook模块，Airflow调度模块；所述Spark调度模块用于读取落地数据，将所述落地数据结构化，并将结构化的落地数据灌入所述数据ETL模块；所述数据ETL模块用于对接收的所述结构化的落地数据进行ETL操作，将ETL操作结果转换为Json数据，并将所述Json数据回写给所述Spark调度模块；所述Spark调度模块还用于将接收的所述Json数据结构化，获取结构化的Json数据；所述Zeppelin Notebook模块用于将所述结构化的Json数据进行加总处理，获取处理后数据，将所述处理后数据导入AWS Redshift中；所述Airflow调度模块用于对所述Spark调度模块、所述数据ETL模块、所述Zeppelin Notebook模块进行流程调度。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于成都品果科技有限公司，未经成都品果科技有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201910158544.3/，转载请声明来源钻瓜专利网。
- 上一篇：存储系统搭建方法及装置
- 下一篇：一种基于企业信息模型的全域数据图谱构建方法
