[发明专利]中台数据校验通知方法、装置、计算机设备和存储介质有效
申请号: | 202110426890.2 | 申请日: | 2021-04-20 |
公开(公告)号: | CN113259154B | 公开(公告)日: | 2022-10-14 |
发明(设计)人: | 潘力;林川;蒋玲玲;唐帆;舒钰文;秦浩哲;卢琳培 | 申请(专利权)人: | 广州骏伯网络科技有限公司 |
主分类号: | H04L41/0631 | 分类号: | H04L41/0631;H04L67/30;H04L51/04 |
代理公司: | 深圳市洪荒之力专利代理有限公司 44541 | 代理人: | 庄露露 |
地址: | 510630 广东省广州市天河*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 校验 通知 方法 装置 计算机 设备 存储 介质 | ||
本发明涉及互联网数据处理技术领域,特别是涉及一种中台数据校验通知方法、装置、计算机设备和存储介质,所述中台数据校验通知方法包括:获取配置文件,所述配置文件包括针对若干业务数据的配置参数,所述业务参数包括序列号、源表表名、目的表表名、结果表表名以及告警规则;根据预设的数据校验调度时间,读取所述配置文件,根据所述配置文件包含的业务数据的数量确定循环次数;根据所述循环次数循环访问数据接口,根据所述业务参数执行读取比较步骤,并生成比较结果表;根据所述比较结果表以及预设的告警规则执行告警警示。本发明实现了数据的自动校验与提醒,减少了人工操作,可以实现数据的及时核验与反馈,自动化程度高。
技术领域
本发明涉及互联网数据处理技术领域,特别是涉及一种中台数据校验通知方法、装置、计算机设备和存储介质。
背景技术
数据中台是指通过数据技术,对海量数据进行采集、计算、存储、加工,同时统一标准和口径。数据中台把数据统一之后,会形成标准数据,再进行存储,形成大数据资产层,进而为客户提供高效服务。这些服务跟企业的业务有较强的关联性,是这个企业独有的且能复用的,它是企业业务和数据的沉淀,其不仅能降低重复建设、减少烟囱式协作的成本,也是差异化竞争优势所在。
在大数据中台的测试过程中,需要校验核对业务数据是否正确,同时在系统的日常运行过程中需要对数据的正确性与及时性进行日常监控,若存在问题需要及时通知相关人员进行处理。
但是,不同的业务数据不一样,校验的规则也不一样,通常需要测试人员手动执行sql脚本查看结果来确认是否正确或及时。这种方式效率低,人工成本高,不利于及时发现问题,需要进行改进。
发明内容
基于此,有必要针对上述的问题,提供一种中台数据校验通知方法、装置、计算机设备和存储介质。
在其中一个实施例中,本发明实施例提供了一种中台数据校验通知方法,所述中台数据校验通知方法包括:
获取配置文件,所述配置文件包括针对若干业务数据的配置参数,所述业务参数包括序列号、源表表名、目的表表名、结果表表名以及告警规则;
根据预设的数据校验调度时间,读取所述配置文件,根据所述配置文件包含的业务数据的数量确定循环次数;
根据所述循环次数循环访问数据接口,根据所述业务参数执行读取比较步骤,并生成比较结果表;
根据所述比较结果表以及预设的告警规则执行告警警示。
在其中一个实施例中,本发明实施例还提供了一种中台数据校验通知装置,所述中台数据校验通知装置包括:
获取模块,用于获取配置文件,所述配置文件包括针对若干业务数据的配置参数,所述业务参数包括序列号、源表表名、目的表表名、结果表表名以及告警规则;
读取模块,用于根据预设的数据校验调度时间,读取所述配置文件,根据所述配置文件包含的业务数据的数量确定循环次数;
比较模块,用于根据所述循环次数循环访问数据接口,根据所述业务参数执行读取比较步骤,并生成比较结果表;
告警模块,用于根据所述比较结果表以及预设的告警规则执行告警警示。
在其中一个实施例中,本发明实施例还提供了一种计算机设备,包括存储器和处理器,所述存储器中存储有计算机程序,所述计算机程序被所述处理器执行时,使得所述处理器执行上述中台数据校验通知方法的步骤。
在其中一个实施例中,本发明实施例还提供了一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时,使得所述处理器执行上述中台数据校验通知方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于广州骏伯网络科技有限公司,未经广州骏伯网络科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110426890.2/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置