[发明专利]一种面向TAS系统的实时数据清洗与转换方法在审
申请号: | 201711338916.8 | 申请日: | 2017-12-14 |
公开(公告)号: | CN108062387A | 公开(公告)日: | 2018-05-22 |
发明(设计)人: | 郭琳云;王建辉;锁军;侯勇;于杰;孙锐;郑宇翔;陈永兴;张恒;焦玉涛 | 申请(专利权)人: | 国网陕西省电力公司电力科学研究院;西安兴汇电力科技有限公司 |
主分类号: | G06F17/30 | 分类号: | G06F17/30 |
代理公司: | 上海精晟知识产权代理有限公司 31253 | 代理人: | 冯子玲 |
地址: | 710000 陕西*** | 国省代码: | 陕西;61 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明涉及一种面向TAS系统的实时数据清洗与转换方法,将TAS系统数据的数据源融合,获取待清洗的数据,对待清洗的数据进行处理,以获取干净数据,将干净数据存入融合数据库中,从而实现多个系统间的数据共享以实现实时数据清洗与转换;本发明通过将TAS系统数据经过抽取/转换/加载的过程,使得在前端展示过程中,不再需要从各自的独立系统获取数据,大大缩短了查询时间,将数据展示的实效性大大提高,同时配置更加灵活,对于元数据的管理也更加便捷,在数据处理中,使得数据的传输更加可靠,增加安全性,满足更高的要求,实现了高效融合、降低同步时间、提高时效性。 | ||
搜索关键词: | 一种 面向 tas 系统 实时 数据 清洗 转换 方法 | ||
【主权项】:
1.一种面向TAS系统的实时数据清洗与转换方法,其特征在于,将TAS系统数据的数据源融合,获取待清洗的数据,对待清洗的数据进行处理,以获取干净数据,将干净数据存入融合数据库中,从而实现多个系统间的数据共享以实现实时数据清洗与转换,具体步骤包括:步骤1、通过ETL系统将部署在不同服务器、数据库的数据以及非结构化的数据根据指定的规则进行抽取,将抽取的数据存储到中间层ODS;步骤2、通过设计目标或清洗提交或规范化提交的方式将ODS的数据进行层层过滤,得到干净的数据;步骤3:将干净的数据根据设计的业务规则插入或更新到融合数据库中。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于国网陕西省电力公司电力科学研究院;西安兴汇电力科技有限公司,未经国网陕西省电力公司电力科学研究院;西安兴汇电力科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201711338916.8/,转载请声明来源钻瓜专利网。