[发明专利]一种基于多数据源的ETL处理方法及装置在审
申请号: | 201710719640.1 | 申请日: | 2017-08-21 |
公开(公告)号: | CN107463709A | 公开(公告)日: | 2017-12-12 |
发明(设计)人: | 陈越晨 | 申请(专利权)人: | 北京奇艺世纪科技有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 北京集佳知识产权代理有限公司11227 | 代理人: | 王宝筠 |
地址: | 100080 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 多数 etl 处理 方法 装置 | ||
1.一种基于多数据源的ETL处理方法,其特征在于,所述方法包括:
选取对待处理数据进行ETL处理所需的第一目标数据源和第二目标数据源;其中,所述第一目标数据源为所述待处理数据的来源端,所述第二目标数据源为将所述待处理数据进行ETL处理后进行存储的目的端;
接收用户设置的ETL处理规则;
依据所述ETL处理规则,从所述第一目标数据源中提取待处理数据,对所述待处理数据进行相应的ETL处理,得到所述待处理数据的处理结果,并将所述处理结果加载到所述第二目标数据源。
2.根据权利要求1所述的方法,其特征在于,还包括:
依据数据源的类型,添加所述数据源;其中,所述第一目标数据源和第二目标数据源是从添加的所述数据源中选取的。
3.根据权利要求2所述的方法,其特征在于,所述依据数据源的类型,添加所述数据源,包括:
从预设的目的地址导入所述数据源;
设置所述数据源的相关信息;所述相关信息包括:数据源名称、数据源类型和数据源中数据表的访问方式;
将设置的所述数据源的相关信息进行保存、以及将所述数据源依据预设的规则进行保存。
4.根据权利要求1所述的方法,其特征在于,所述接收用户设置的ETL处理规则,包括:
接收用户依据预设的结构化查询语言SQL的处理标准设置的处理规则。
5.根据权利要求1所述的方法,其特征在于,将所述处理结果加载到所述第二目标数据源后,还包括:
展示对所述待处理数据进行ETL处理的结果。
6.一种基于多数据源的ETL处理装置,其特征在于,所述装置包括:
选取单元,用于选取对待处理数据进行ETL处理所需的第一目标数据源和第二目标数据源;其中,所述第一目标数据源为所述待处理数据的来源端,所述第二目标数据源为将所述待处理数据进行ETL处理后进行存储的目的端;
接收单元,用于接收用户设置的ETL处理规则;
处理单元,用于依据所述ETL处理规则,从所述第一目标数据源中提取待处理数据,对所述待处理数据进行相应的ETL处理,得到所述待处理数据的处理结果,并将所述处理结果加载到所述第二目标数据源。
7.根据权利要求6所述的装置,其特征在于,还包括:
添加单元,用于依据数据源的类型,添加所述数据源;其中,所述第一目标数据源和第二目标数据源是从添加的所述数据源中选取的。
8.根据权利要求7所述的装置,其特征在于,所述添加单元包括:
导入子单元,用于从预设的目的地址导入所述数据源;
设置子单元,用于设置所述数据源的相关信息;所述相关信息包括:数据源名称、数据源类型和数据源的数据表的访问方式;
保存子单元,用于将设置的所述数据源的相关信息进行保存、以及将所述数据源依据预设的规则进行保存。
9.根据权利要求6所述的装置,其特征在于,所述接收单元,包括:
接收子单元,用于接收用户依据预设的结构化查询语言SQL的处理标准设置的处理规则。
10.根据权利要求6所述的装置,其特征在于,还包括:
展示单元,用于展示对所述待处理数据进行ETL处理的结果。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京奇艺世纪科技有限公司,未经北京奇艺世纪科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710719640.1/1.html,转载请声明来源钻瓜专利网。