[发明专利]数据血缘分析方法、装置、设备及计算机可读存储介质在审
申请号: | 202010350107.4 | 申请日: | 2020-04-28 |
公开(公告)号: | CN111694858A | 公开(公告)日: | 2020-09-22 |
发明(设计)人: | 黄祥铮;李钊;万书武;李均;赵素群 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F16/242 | 分类号: | G06F16/242;G06F16/2455;G06F16/23;G06F16/28;G06F16/36 |
代理公司: | 北京市京大律师事务所 11321 | 代理人: | 刘挽澜 |
地址: | 518033 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 血缘 分析 方法 装置 设备 计算机 可读 存储 介质 | ||
1.一种数据血缘分析方法,其特征在于,所述数据血缘分析方法包括如下步骤:
获取当前在大数据平台上执行的结构化查询语言SQL语句的输入表、输出表,以及所述输入表和所述输出表之间的血缘关系;
将所述输入表和所述输出表分别转化为预设类型系统下的实体对象,将所述实体对象存储至预设的图形数据库中;
根据所述血缘关系,在所述图形数据库中构建所述实体对象之间的血缘关系图谱;
接收数据接入平台发送的业务源表与大数据表之间的映射关系,其中,所述数据接入平台用于从关系型业务数据库的业务源表抽取业务数据转存至大数据平台的大数据表,并在抽取业务数据的过程中,记录所述业务源表与所述大数据表之间的映射关系;
根据所述映射关系,在所述血缘关系图谱中确定待添加祖先节点的目标实体对象节点;
为所述目标实体对象节点添加对应的祖先节点,得到目标血缘关系图谱,其中,所述祖先节点用于表示由所述目标实体对象的业务源表转化得到的实体对象。
2.如权利要求1所述的数据血缘分析方法,其特征在于,所述获取当前在大数据平台上执行的结构化查询语言SQL语句的输入表、输出表,以及所述输入表和所述输出表之间的血缘关系的步骤包括:
通过预设的钩子程序,监听当前在大数据平台上执行的结构化查询语言SQL语句;
通过预设的语法解析器和词法解析器,对监听到的所述SQL语句进行解析,得到所述SQL语句的输入表、输出表,以及所述输入表和所述输出表之间的血缘关系。
3.如权利要求1所述的数据血缘分析方法,其特征在于,所述根据所述血缘关系,在所述图形数据库中构建所述实体对象之间的血缘关系图谱的步骤包括:
调用预设的图处理引擎,通过所述图处理引擎在所述图形数据库中创建与所述输入表和所述输出表一一对应的实体对象节点;
根据所述血缘关系,在创建的所述实体对象节点之间添加有向边,生成所述实体对象之间的血缘关系图谱。
4.如权利要求1所述的数据血缘分析方法,其特征在于,所述根据所述映射关系,在所述血缘关系图谱中确定待添加祖先节点的目标实体对象节点的步骤包括:
获取所述映射关系中的大数据表的表名;
判断所述血缘关系图谱中是否存在与所述表名对应的实体对象节点;
若所述血缘关系图谱中存在与所述表名对应的实体对象节点,则将与所述表名对应的实体对象节点确定为待添加祖先节点的目标实体对象节点。
5.如权利要求1-4中任一项所述的数据血缘分析方法,其特征在于,所述为所述目标实体对象节点添加对应的祖先节点,得到目标血缘关系图谱,其中,所述祖先节点用于表示由所述目标实体对象的业务源表转化得到的实体对象的步骤之后,还包括:
在所述目标血缘关系图谱中确定待分析的实体对象节点;
获取所述待分析的实体对象节点所关联的业务,并统计包含所述待分析的实体对象节点的血缘关系链的链条数;
将所述链条数分别与第一预设阈值和第二预设阈值进行比较,所述第一预设阈值大于所述第二预设阈值;
当所述链条数大于或等于所述第一预设阈值时,将所述待分析的实体对象节点所关联的业务标记为热门业务;
当所述链条数小于或等于所述第二预设阈值时,将所述待分析的实体对象节点所关联的业务标记为冷门业务。
6.如权利要求1-4中任一项所述的数据血缘分析方法,其特征在于,所述为所述目标实体对象节点添加对应的祖先节点,得到目标血缘关系图谱,其中,所述祖先节点用于表示由所述目标实体对象的业务源表转化得到的实体对象的步骤之后,还包括:
通过预设的用户交互页面,接收基于所述目标血缘关系图谱的查询指令;
根据所述查询指令,将所述目标数据血缘分析图谱发送至所述用户交互页面进行可视化展示。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010350107.4/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置