[发明专利]一种数据血缘的生成方法、系统、电子设备和存储介质有效
申请号: | 201811221914.5 | 申请日: | 2018-10-19 |
公开(公告)号: | CN109299073B | 公开(公告)日: | 2019-12-24 |
发明(设计)人: | 贾涛 | 申请(专利权)人: | 杭州数梦工场科技有限公司 |
主分类号: | G06F16/21 | 分类号: | G06F16/21;G06F16/22 |
代理公司: | 11227 北京集佳知识产权代理有限公司 | 代理人: | 罗满 |
地址: | 310024 浙江省杭州市*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 目标数据源 预设协议格式 存储介质 电子设备 任务信息 数据平台 数据源 分布式数据库 数据库系统 协议格式 多系统 预设 兼容 统一 网络 | ||
1.一种数据血缘的生成方法,其特征在于,包括:
获取各目标数据源和当前的任务信息;
通过统一的预设协议格式分别对各所述目标数据源和所述当前的任务信息进行定义;所述预设协议格式为:JSON数据交换格式;
当执行当前任务时,根据所述当前任务的执行过程以及所述统一的预设协议格式生成相应的数据血缘;
其中,所述获取各目标数据源和当前的任务信息,包括:获取各来源数据源和目的数据源的元数据信息,所述元数据信息包括:库、表和字段;获取当前的任务信息;
若无法访问数据源系统,则基于所述元数据信息和所述任务信息生成协议内容,基于所述协议内容生成相应的数据血缘。
2.根据权利要求1所述的方法,其特征在于,所述通过统一的预设协议格式分别对各所述目标数据源和所述当前的任务信息进行定义,包括:
通过所述统一的预设协议格式定义各所述目标数据源,并对所述元数据信息进行解析,生成库包含表、表包含字段的关联关系信息;
通过所述统一的预设协议格式定义所述任务信息,并对所述任务信息进行解析,确定所述任务信息中所包含的库、表和/或字段的来源和去向。
3.根据权利要求2所述的方法,其特征在于,所述当执行当前任务时,根据所述当前任务的执行过程以及所述统一的预设协议格式生成相应的数据血缘,包括:
当执行当前任务时,根据所述任务信息中所包含的库、表和/或字段的来源和去向生成相应的数据血缘。
4.根据权利要求2或3所述的方法,其特征在于,所述对所述任务信息进行解析,确定所述任务信息中所包含的库、表和/或字段的来源和去向,包括:
解析所述任务的数据源对象以及该任务所包含的库、表和/或字段;
根据对所述任务的解析内容,确定所述任务信息中所包含的库、表和/或字段的来源和去向。
5.根据权利要求4所述的方法,其特征在于,所述根据对所述任务的解析内容,确定所述任务信息中所包含的库、表和/或字段的来源和去向,包括:
根据对所述任务的解析内容,将对应的来源和去向的数据源的名称和相应的库名、表名以及字段名进行关联,以确定所述任务信息中所包含的库、表和/或字段的来源和去向。
6.一种数据血缘的生成系统,其特征在于,包括:
获取模块,用于获取各目标数据源和当前的任务信息;
定义模块,用于通过统一的预设协议格式分别对各所述目标数据源和所述当前的任务信息进行定义;所述预设协议格式为:JSON数据交换格式;
血缘生成模块,用于当执行当前任务时,根据所述当前任务的执行过程以及所述统一的预设协议格式生成相应的数据血缘;
其中,所述获取模块具体用于:获取各来源数据源和目的数据源的元数据信息,所述元数据信息包括:库、表和字段;获取当前的任务信息;
若无法访问数据源系统,则基于所述元数据信息和所述任务信息生成协议内容,基于所述协议内容生成相应的数据血缘。
7.一种用于数据血缘的生成的电子设备,其特征在于,包括:
存储器,用于存储计算机程序;
处理器,用于执行所述计算机程序时实现如权利要求1至5任一项所述的数据血缘的生成方法的步骤。
8.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质上存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至5任一项所述数据血缘的生成方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于杭州数梦工场科技有限公司,未经杭州数梦工场科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811221914.5/1.html,转载请声明来源钻瓜专利网。