[发明专利]一种数据质量检测方法、装置、可读介质及电子设备有效
申请号: | 201911211100.8 | 申请日: | 2019-12-02 |
公开(公告)号: | CN112988719B | 公开(公告)日: | 2023-04-04 |
发明(设计)人: | 郭伟民 | 申请(专利权)人: | 金色熊猫有限公司 |
主分类号: | G06F16/215 | 分类号: | G06F16/215;G06F16/2458 |
代理公司: | 北京嘉科知识产权代理事务所(特殊普通合伙) 11687 | 代理人: | 刘力 |
地址: | 中国香港铜锣湾希慎*** | 国省代码: | 暂无信息 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 质量 检测 方法 装置 可读 介质 电子设备 | ||
本发明公开了一种数据质量检测方法、装置、可读介质及电子设备,包括:通过数据源获取第一时段对应的第一统计数据;所述第一时段包括至少一个历史周期;通过所述数据源获取第二时段对应的第二统计数据;所述第二时段包括所述至少一个历史周期;基于所述第一统计数据和所述第二统计数据,计算各历史周期对应的数据质量指标;并根据所述数据质量指标,对所述数据源中对应所述历史周期内的数据进行质量检测;实现了针对时段内的各个历史周期进行数据质量的检测,以便于准确的发现各历史周期内的数据统计是否产生出入,也确保每周期内的数据数量适当,使得本实施例所述的质量检测有足够精确的粒度,由此使得数据质量检测过程更加完善准确。
技术领域
本发明涉及计算机技术领域,尤其涉及一种数据质量检测方法、装置、可读介质及电子设备。
背景技术
数据质量管理(Data Quality Management,简称DQM),包含了对于数据质量和数据组织的改善和管理。数据质量管理能够直接影响数据分析的效果,所以其在当前热门的人工智能、大数据分析领域存在重要的价值。
现有的数据质量管理中对于数据准确性的检测,通常是将一定时间范围内的数据统计汇总,并通过数据总量的变化情况进行分析和检测。但是这种检测方式无法发现对于历史数据统计上产生的出入。
发明内容
本发明提供及一种数据质量检测方法、装置、可读介质及电子设备,针对时段内的各个历史周期进行数据质量的检测,以便于准确的发现各历史周期内的数据统计是否产生出入。
第一方面,本发明提供了一种数据质量检测方法,包括:
通过数据源获取第一时段对应的第一统计数据;所述第一时段包括至少一个历史周期;
通过所述数据源获取第二时段对应的第二统计数据;所述第二时段包括所述至少一个历史周期;
基于所述第一统计数据和所述第二统计数据,计算各历史周期对应的数据质量指标;
并根据所述数据质量指标,对所述数据源中对应所述历史周期内的数据进行质量检测。
优选地,所述通过数据源获取第一时段对应的第一统计数据包括:
获取所述数据源中,与所述第一时段中各历史周期对应的数据;
根据所述第一时段中各历史周期对应的数据,计算得到所述第一时段中各历史周期对应第一周期性数据;
将各所述第一周期性数据合并为所述第一统计数据。
优选地,所述通过数据源获取第二时段对应的第二统计数据包括:
获取所述数据源中,与所述第二时段中各历史周期对应的数据;
根据所述第二时段中各历史周期对应的数据,计算得到所述第二时段中各历史周期对应第二周期性数据;
将各所述第二周期性数据合并为所述第二统计数据。
优选地,所述第二时段还包括至少一个新增周期,则还包括:
获取所述数据源中,与所述第二时段中各新增周期对应的数据;
根据所述第二时段中各新增周期对应的数据,计算得到所述第二时段中各新增周期对应第三周期性数据。
优选地,通过数据源获取第二时段对应的第二统计数据包括:
将各所述第二周期性数据和各所述第三周期性数据,合并为所述第二统计数据。
优选地,所述基于所述第一统计数据和所述第二统计数据,计算各历史周期对应的数据质量指标包括:
基于所述历史周期对应的第一周期性数据和第二周期性数据,计算所述历史周期对应的数据质量指标。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于金色熊猫有限公司,未经金色熊猫有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201911211100.8/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置