[发明专利]一种数据计算流程中的数据核对方法、系统及存储介质在审
申请号: | 202211711486.0 | 申请日: | 2022-12-29 |
公开(公告)号: | CN115934861A | 公开(公告)日: | 2023-04-07 |
发明(设计)人: | 卢春辉;臧智涛;张敏;李建雨 | 申请(专利权)人: | 企知道网络技术有限公司 |
主分类号: | G06F16/28 | 分类号: | G06F16/28;G06F16/22;G06F16/23 |
代理公司: | 武汉维兴专利代理有限公司 42298 | 代理人: | 彭聪 |
地址: | 518000 广东省深圳市南山区西丽*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 计算 流程 中的 核对 方法 系统 存储 介质 | ||
1.一种数据计算流程中的数据核对方法,其特征在于,包括以下步骤:
获取指定层级的数仓数据;
从数仓数据中识别出若干重要表,
分别对每个重要表所对应的表属性和/或字段属性进行检验以确定出存在异常波动的重要表,
基于预设的字段属性、表属性与异常级别之间的对应关系,确定每个存在异常波动的重要表的异常级别;
根据每个异常级别以及对应的重要表分别生成异常通知并发送;
判断所有异常级别的权重是否均低于预设权重,
若是,则执行当前指定层级的数据运算;
若不是,则暂停当前指定层级的数据运算。
2.根据权利要求1所述的一种数据计算流程中的数据核对方法,其特征在于,所述字段属性包括非空字段,所述分别对每个重要表所对应的表属性和/或字段属性进行检验以确定出存在异常波动的重要表,包括以下步骤:
获取重要表中的非空字段,并分别判断每个非空字段是否为空值,任意一个非空字段为空值,则确定对应的重要表存在异常波动。
3.根据权利要求1所述的一种数据计算流程中的数据核对方法,其特征在于,所述表属性包括可空字段,所述分别对每个重要表所对应的表属性和/或字段属性进行检验以确定出存在异常波动的重要表,包括以下步骤:
获取重要表中的可空字段,计算每类可空字段的当前空值率,并从预设数据库中匹配出可空字段所对应的历史空值率;
根据历史空值率和预设的允许波动值确定阈值;
判断当前空值率是否超过对应的阈值,
若是,则确定对应的重要表存在异常波动。
4.根据权利要求3所述的一种数据计算流程中的数据核对方法,其特征在于,所述分别对每个重要表所对应的表属性和/或字段属性进行检验以确定出存在异常波动的重要表,还包括以下步骤:若当前空值率低于或等于对应的阈值,则将当前空值率作为历史空值率并更新到数据库中。
5.根据权利要求1所述的一种数据计算流程中的数据核对方法,其特征在于,所述表属性包括枚举校验字段,所述分别对每个重要表所对应的表属性和/或字段属性进行检验以确定出存在异常波动的重要表,包括以下步骤:
获取重要表的枚举校验字段,判断枚举校验字段的内容是否均可从预设集合中匹配到对应的预设值,
若不是,则确认对应的重要表存在异常波动。
6.根据权利要求1所述的一种数据计算流程中的数据核对方法,其特征在于,所述表属性包括数据发散,所述分别对每个重要表所对应的表属性和/或字段属性进行检验以确定出存在异常波动的重要表,包括以下步骤:
识别重要表中的主键,并判断重要表中的主键是否存在重复,
若重复,则定义对应的重要表的表属性具有数据发散,并确定对应的重要表存在异常波动。
7.根据权利要求6所述的一种数据计算流程中的数据核对方法,其特征在于,所述识别重要表中的主键,并判断重要表中的主键是否存在重复之前,还包括以下步骤:
判断所对应的重要表是否具有代表许可重复的标识,
若是,则不执行识别重要表中的主键的步骤;
若不是,则执行识别重要表中的主键的步骤。
8.根据权利要求1所述的一种数据计算流程中的数据核对方法,其特征在于,所述获取指定层级的数仓数据包括以下步骤:
获取预存储的基数,其中,不同的基数对应不同的数仓层级;
根据基数确定数仓层级并将其作为指定层级,获取指定层级的数仓数据;
所述执行当前指定层级的数据运算之后还包括:以预设的更新规则更新基数。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于企知道网络技术有限公司,未经企知道网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211711486.0/1.html,转载请声明来源钻瓜专利网。
- 上一篇:一种驻车棘轮及其制备方法
- 下一篇:一种压缩机阀板冲压成型方法及冲压模具
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置