[发明专利]一种数据处理方法及数据处理平台有效
申请号: | 201710007813.7 | 申请日: | 2017-01-05 |
公开(公告)号: | CN107103025B | 公开(公告)日: | 2020-08-14 |
发明(设计)人: | 王全胜;汪超;冯文;冯海军 | 申请(专利权)人: | 亚信科技(中国)有限公司 |
主分类号: | G06F16/25 | 分类号: | G06F16/25 |
代理公司: | 北京集佳知识产权代理有限公司 11227 | 代理人: | 李金;王宝筠 |
地址: | 100193 北京市海淀区*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明提供一种数据处理方法及数据处理平台,从数据库中采集至少一个元数据,并确定元数据在数据仓库中所属层次以及在所属层次下的所属分类,这样在采集到元数据下的数据后,可以将至少一个元数据下的数据的格式转换为数据处理平台预先设定的格式,并将转换格式后的数据存储到对应的数据库表中,而数据库表对应一个元数据对应字段的属性信息,因此可根据元数据将元数据下的数据存储到对应的数据库表中,实现数据的分类存储,以有利于对每个分类下数据统一管理。并且还可以基于数据处理平台预先设定的数据监控规则,对至少一个元数据下的数据进行质量校验,以使得数据处理平台具有质量校验功能,进而实现对存量数据和增量数据的统一监控。 | ||
搜索关键词: | 一种 数据处理 方法 平台 | ||
【主权项】:
一种数据处理方法,其特征在于,所述方法包括:通过数据处理平台从数据库中采集至少一个元数据和所述至少一个元数据下的数据,所述元数据用于指示所述数据库中对应字段的属性信息;根据所述元数据指示的对应字段的属性信息,确定所述元数据在数据仓库中所属层次以及在所属层次下的所属分类,所述数据处理平台以数据仓库的形式存储数据,所述数据仓库基于所述数据处理平台预先设置的数据划分规则划分成多个层次,且每个层次划分有多个分类,每个分类下对应一个数据库表,所述数据库表用于存储一个元数据下的数据;将所述至少一个元数据下的数据的格式转换为所述数据处理平台预先设定的格式,并将转换格式后的数据存储到所确定的所属层次下的所属分类下的数据库表中;基于所述数据处理平台预先设定的数据监控规则,对至少一个元数据下的数据进行质量校验。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于亚信科技(中国)有限公司,未经亚信科技(中国)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201710007813.7/,转载请声明来源钻瓜专利网。