[发明专利]数据抽取方法、装置、电子设备和计算机可读介质在审
申请号: | 202210133671.X | 申请日: | 2022-02-14 |
公开(公告)号: | CN114647652A | 公开(公告)日: | 2022-06-21 |
发明(设计)人: | 孙静 | 申请(专利权)人: | 北京京东振世信息技术有限公司 |
主分类号: | G06F16/23 | 分类号: | G06F16/23;G06F16/2457 |
代理公司: | 北京唯智勤实知识产权代理事务所(普通合伙) 11557 | 代理人: | 史立状 |
地址: | 100086 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 抽取 方法 装置 电子设备 计算机 可读 介质 | ||
1.一种数据抽取方法,包括:
利用守护进程,检测目标数据集抽取任务是否完成;
响应于检测到所述目标数据集抽取任务未完成,确定目标时间戳在第一时长内是否发生变化,其中,所述目标时间戳为所述目标数据集抽取任务启动或在执行所述目标数据集抽取任务过程中从数据库查询目标数据集的时间戳;
响应于确定所述目标时间戳在所述第一时长内未发生变化,再次执行所述目标数据集抽取任务,以及对所述目标时间戳进行更新。
2.根据权利要求1所述的方法,其中,所述再次执行所述目标数据集抽取任务,包括:
将第一目标数据库确定为所述目标数据集的查询数据源以查询所述目标数据集;
响应于确定所述第一目标数据库对应的第一目标数据集查询失败次数达到第一数目,以及各次目标数据集查询的任务版本信息相同,将第二目标数据库确定为所述目标数据集的查询数据源以查询所述目标数据集;
响应于确定所述第二目标数据库对应的第二目标数据集查询失败次数小于第二数目,以及各次目标数据集查询的任务版本信息相同,从所述第二目标数据库中抽取所述目标数据集,以及将所述目标数据集发送至目标消息队列。
3.根据权利要求2所述的方法,其中,所述方法还包括:
对所述目标数据集中的每个数据添加主键信息,得到添加后的数据集;
将所述添加后的数据集的数据量确定为第一数据量,以及将所述目标消息队列中目标数据集的数据量确定为第二数据量;
响应于所述第一数据量等于所述第二数据量,对所述添加后的数据集进行数据校验。
4.根据权利要求3所述的方法,其中,所述方法还包括:
响应于确定所述第一目标数据集查询失败次数小于所述第一数目以及各次目标数据集查询的所述任务版本信息相同,继续从所述第一目标数据库中查询所述目标数据集。
5.根据权利要求2所述的方法,其中,所述方法还包括:
响应于确定所述第一目标数据库对应的各次目标数据集查询的任务版本信息不相同或所述第二目标数据库对应的各次目标数据集查询的任务版本信息不相同,结束再次执行的所述目标数据集抽取任务。
6.根据权利要求3所述的方法,其中,所述对所述添加后的数据集进行数据校验,包括:
基于所述第一目标数据库中的数据集或所述第二目标数据库的数据集,利用预设数据校验方法来对所述添加后的数据集进行数据校验。
7.根据权利要求2所述的方法,其中,所述方法还包括:
针对每次所述第一目标数据库查询所述目标数据集或每次所述第二目标数据库查询所述目标数据集,对更新后的目标时间戳进行再次更新。
8.根据权利要求2所述的方法,其中,通过以下步骤来确定所述第一目标数据库是否查询数据集失败:
响应于确定所述第一目标数据库查询所述目标数据集的查询时长大于第二时长,生成表征所述第一目标数据库查询所述目标数据集失败的信息。
9.根据权利要求2所述的方法,其中,通过以下步骤来确定所述第二目标数据库是否查询数据集失败:
响应于确定所述第二目标数据库查询所述目标数据集的查询时长大于第三时长,生成表征所述第二目标数据库查询所述目标数据集失败的信息。
10.一种数据抽取装置,包括:
检测单元,被配置成利用守护进程,检测目标数据集抽取任务是否完成;
确定单元,被配置成响应于检测到所述目标数据集抽取任务未完成,确定目标时间戳在第一时长内是否发生变化,其中,所述目标时间戳为所述目标数据集抽取任务启动或在执行所述目标数据集抽取任务过程中从数据库查询目标数据集的时间戳;
执行更新单元,被配置成响应于确定所述目标时间戳在所述第一时长内未发生变化,再次执行所述目标数据集抽取任务,以及对所述目标时间戳进行更新。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东振世信息技术有限公司,未经北京京东振世信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210133671.X/1.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置