[发明专利]数据抽取方法、装置、电子设备和计算机可读介质在审

专利信息
申请号: 202210133671.X 申请日: 2022-02-14
公开(公告)号: CN114647652A 公开(公告)日: 2022-06-21
发明(设计)人: 孙静 申请(专利权)人: 北京京东振世信息技术有限公司
主分类号: G06F16/23 分类号: G06F16/23;G06F16/2457
代理公司: 北京唯智勤实知识产权代理事务所(普通合伙) 11557 代理人: 史立状
地址: 100086 *** 国省代码: 北京;11
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 数据 抽取 方法 装置 电子设备 计算机 可读 介质
【权利要求书】:

1.一种数据抽取方法,包括:

利用守护进程,检测目标数据集抽取任务是否完成;

响应于检测到所述目标数据集抽取任务未完成,确定目标时间戳在第一时长内是否发生变化,其中,所述目标时间戳为所述目标数据集抽取任务启动或在执行所述目标数据集抽取任务过程中从数据库查询目标数据集的时间戳;

响应于确定所述目标时间戳在所述第一时长内未发生变化,再次执行所述目标数据集抽取任务,以及对所述目标时间戳进行更新。

2.根据权利要求1所述的方法,其中,所述再次执行所述目标数据集抽取任务,包括:

将第一目标数据库确定为所述目标数据集的查询数据源以查询所述目标数据集;

响应于确定所述第一目标数据库对应的第一目标数据集查询失败次数达到第一数目,以及各次目标数据集查询的任务版本信息相同,将第二目标数据库确定为所述目标数据集的查询数据源以查询所述目标数据集;

响应于确定所述第二目标数据库对应的第二目标数据集查询失败次数小于第二数目,以及各次目标数据集查询的任务版本信息相同,从所述第二目标数据库中抽取所述目标数据集,以及将所述目标数据集发送至目标消息队列。

3.根据权利要求2所述的方法,其中,所述方法还包括:

对所述目标数据集中的每个数据添加主键信息,得到添加后的数据集;

将所述添加后的数据集的数据量确定为第一数据量,以及将所述目标消息队列中目标数据集的数据量确定为第二数据量;

响应于所述第一数据量等于所述第二数据量,对所述添加后的数据集进行数据校验。

4.根据权利要求3所述的方法,其中,所述方法还包括:

响应于确定所述第一目标数据集查询失败次数小于所述第一数目以及各次目标数据集查询的所述任务版本信息相同,继续从所述第一目标数据库中查询所述目标数据集。

5.根据权利要求2所述的方法,其中,所述方法还包括:

响应于确定所述第一目标数据库对应的各次目标数据集查询的任务版本信息不相同或所述第二目标数据库对应的各次目标数据集查询的任务版本信息不相同,结束再次执行的所述目标数据集抽取任务。

6.根据权利要求3所述的方法,其中,所述对所述添加后的数据集进行数据校验,包括:

基于所述第一目标数据库中的数据集或所述第二目标数据库的数据集,利用预设数据校验方法来对所述添加后的数据集进行数据校验。

7.根据权利要求2所述的方法,其中,所述方法还包括:

针对每次所述第一目标数据库查询所述目标数据集或每次所述第二目标数据库查询所述目标数据集,对更新后的目标时间戳进行再次更新。

8.根据权利要求2所述的方法,其中,通过以下步骤来确定所述第一目标数据库是否查询数据集失败:

响应于确定所述第一目标数据库查询所述目标数据集的查询时长大于第二时长,生成表征所述第一目标数据库查询所述目标数据集失败的信息。

9.根据权利要求2所述的方法,其中,通过以下步骤来确定所述第二目标数据库是否查询数据集失败:

响应于确定所述第二目标数据库查询所述目标数据集的查询时长大于第三时长,生成表征所述第二目标数据库查询所述目标数据集失败的信息。

10.一种数据抽取装置,包括:

检测单元,被配置成利用守护进程,检测目标数据集抽取任务是否完成;

确定单元,被配置成响应于检测到所述目标数据集抽取任务未完成,确定目标时间戳在第一时长内是否发生变化,其中,所述目标时间戳为所述目标数据集抽取任务启动或在执行所述目标数据集抽取任务过程中从数据库查询目标数据集的时间戳;

执行更新单元,被配置成响应于确定所述目标时间戳在所述第一时长内未发生变化,再次执行所述目标数据集抽取任务,以及对所述目标时间戳进行更新。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东振世信息技术有限公司,未经北京京东振世信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/202210133671.X/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top