[发明专利]基于虚拟质检机器人的数据资产质检方法及装置在审
申请号: | 202211094100.6 | 申请日: | 2022-09-08 |
公开(公告)号: | CN115700650A | 公开(公告)日: | 2023-02-07 |
发明(设计)人: | 林镇锋;周海;米钦文;王强;陈颖平;田松林;刘兆平;李锐;胡裕明;刘德道;李永祥 | 申请(专利权)人: | 南方电网数字平台科技(广东)有限公司 |
主分类号: | G06Q10/0631 | 分类号: | G06Q10/0631;G06Q10/0639;G06F18/241;G06F18/214 |
代理公司: | 广州三环专利商标代理有限公司 44202 | 代理人: | 江银会 |
地址: | 518074 广东省深圳市南山区沙河街道高*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 基于 虚拟 质检 机器人 数据 资产 方法 装置 | ||
1.一种基于虚拟质检机器人的数据资产质检方法,其特征在于,所述方法应用于虚拟质检机器人,所述方法包括:
所述虚拟质检机器人基于所述虚拟质检机器人的任务执行调度器,确定数据资产存储库中当前需执行质检任务的目标数据资产;
所述虚拟质检机器人根据所述目标数据资产匹配的数据质检工具,检测所述目标数据资产中是否存在不满足数据质检条件的异常数据资源;
当所述目标数据资产中存在所述异常数据资源时,所述虚拟质检机器人根据所述异常数据资源,生成所述目标数据资产对应的质量问题清单,以使所述目标数据资产对应的管理人员知悉所述目标数据资产的质检情况。
2.根据权利要求1所述的基于虚拟质检机器人的数据资产质检方法,其特征在于,在所述虚拟质检机器人根据所述目标数据资产匹配的数据质检工具,检测所述目标数据资产中是否存在不满足数据质检条件的异常数据资源之前,所述方法还包括:
所述虚拟质检机器人基于所述任务执行调度器,确定所述目标数据资产匹配的数据质检任务以及所述数据质检任务对应的质检工具,作为所述目标数据资产匹配的数据质检工具,其中,所述数据质检任务包括属性校验任务和/或异常数据筛选任务,所述属性校验任务对应的质检工具包括属性校验工具,所述异常数据筛选任务对应的质检工具包括质检算法模型;
以及,所述虚拟质检机器人根据所述目标数据资产匹配的数据质检工具,检测所述目标数据资产中是否存在不满足数据质检条件的异常数据资源,包括:
当所述数据质检任务包括所述属性校验任务时,所述虚拟质检机器人基于所述属性校验工具,检测所述目标数据资产的数据字段的属性值是否满足所述属性校验任务对应的属性校验条件,当所述属性值不满足所述属性校验条件时,确定所述目标数据资产中存在不满足数据质检条件的异常数据资源;
当所述数据质检任务包括所述异常数据筛选任务时,所述虚拟质检机器人基于所述质检算法模型,检测所述目标数据资产的数据字段中是否存在异常数据,当所述数据字段中存在所述异常数据时,确定所述目标数据资产中存在不满足数据质检条件的异常数据资源。
3.根据权利要求2所述的基于虚拟质检机器人的数据资产质检方法,其特征在于,所述虚拟质检机器人基于所述属性校验工具,检测所述目标数据资产的数据字段的属性值是否满足所述属性校验任务对应的属性校验条件,包括:
所述虚拟质检机器人基于所述属性校验工具,生成所述目标数据资产的数据字段匹配的第一查询语句,并基于所述第一查询语句,查询所述数据字段的属性值;
所述虚拟质检机器人检测所述属性值是否为空字段;
当所述属性值为所述空字段时,所述虚拟质检机器人确定所述属性值不满足所述属性校验任务对应的属性校验条件;
当所述属性值不为所述空字段时,所述虚拟质检机器人检测所述属性值与其对应的属性类型是否相匹配;
当所述属性值与所述属性类型不匹配时,所述虚拟质检机器人确定所述属性值不满足所述属性校验任务对应的属性校验条件;
当所述属性值与所述属性类型相匹配时,所述虚拟质检机器人基于所述属性校验工具以及所述数据字段对应的数据标识,生成所述数据标识匹配的第二查询语句,并基于所述第二查询语句,查询与所述数据标识匹配的除所述数据字段之外的其他数据字段的目标属性值;
所述虚拟质检机器人检测所述属性值与所述目标属性值是否相匹配,当所述属性值与所述目标属性值不匹配时,确定所述属性值不满足所述属性校验任务对应的属性校验条件。
4.根据权利要求2或3所述的基于虚拟质检机器人的数据资产质检方法,其特征在于,所述质检算法模型包括四分位统计算法模型和/或孤立森林算法模型。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于南方电网数字平台科技(广东)有限公司,未经南方电网数字平台科技(广东)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202211094100.6/1.html,转载请声明来源钻瓜专利网。
- 同类专利
- 专利分类
G06Q 专门适用于行政、商业、金融、管理、监督或预测目的的数据处理系统或方法;其他类目不包含的专门适用于行政、商业、金融、管理、监督或预测目的的处理系统或方法
G06Q10-00 行政;管理
G06Q10-02 .预定,例如用于门票、服务或事件的
G06Q10-04 .预测或优化,例如线性规划、“旅行商问题”或“下料问题”
G06Q10-06 .资源、工作流、人员或项目管理,例如组织、规划、调度或分配时间、人员或机器资源;企业规划;组织模型
G06Q10-08 .物流,例如仓储、装货、配送或运输;存货或库存管理,例如订货、采购或平衡订单
G06Q10-10 .办公自动化,例如电子邮件或群件的计算机辅助管理