[发明专利]一种信息采集方法、装置、服务器及计算机可读存储介质在审
申请号: | 201910694437.2 | 申请日: | 2019-07-30 |
公开(公告)号: | CN110457358A | 公开(公告)日: | 2019-11-15 |
发明(设计)人: | 刘如意 | 申请(专利权)人: | 新华三大数据技术有限公司 |
主分类号: | G06F16/2457 | 分类号: | G06F16/2457;G06F16/23;G06F16/22;G06F16/2455 |
代理公司: | 11646 北京超成律师事务所 | 代理人: | 刘静<国际申请>=<国际公布>=<进入国 |
地址: | 450000河南省郑州市高新技*** | 国省代码: | 河南;41 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 业务表 元数据信息 业务数据库 服务器 更新操作 删除状态 数据源端 计算机可读存储介质 计算机技术领域 读取 采集状态 大数据量 数据变化 信息采集 有效减少 增量采集 表记录 预设 耗时 采集 申请 | ||
本申请提出一种信息采集方法、装置、服务器及计算机可读存储介质,涉及计算机技术领域。服务器从存放业务数据库的数据源端读取预设采集状态表记录的业务数据库中发生数据变化的业务表的名称和业务表对应的更新操作,并根据业务表对应的更新操作确定业务表处于新增状态、删除状态或修改状态,若业务表处于新增状态或修改状态,则根据业务表的名称从业务数据库中获取业务表的元数据信息,若业务表处于删除状态,则不从业务数据库中获取业务表的元数据信息。如此,实现了从数据源端增量采集元数据信息,提升了元数据信息采集效率,相比现有技术有效减少了大数据量下对新、老元数据信息进行对比这一耗时步骤,从而降低了服务器的处理时间。
技术领域
本申请涉及计算机技术领域,具体而言,涉及一种信息采集方法、装置、服务器及计算机可读存储介质。
背景技术
目前,元数据信息的采集及更新主要采用“全量采集,增量写入”的方式。服务器通过查询业务数据库中最新的所有元数据信息(全量采集),并将元数据信息库中存储的老的元数据信息与业务数据库中新的元数据信息进行逐表逐行对比,找出新增、删除以及修改的增量行信息,最后将增量的元数据行信息写入元数据信息库中(增量写入)。
然而,在信息爆炸的今天,用户业务逐渐复杂,元数据信息也日益庞大,业务数据库涉及的业务表数量可能达到成千上万甚至更多,且随着用户业务的扩展,业务数据库中业务表的元数据信息随时可能发生变化。因此,在业务数据库元数据信息较大且采集周期内部分业务表的信息变动频繁的情况下,上述通过“全量采集,增量写入”的方式进行元数据信息的采集及更新,将会出现元数据信息采集效率较慢、服务器处理时间较长的问题。
发明内容
有鉴于此,本申请的目的在于提供一种信息采集方法、装置、服务器及计算机可读存储介质,以提高元数据信息采集效率,降低服务器的处理时间。
为了实现上述目的,本申请实施例采用的技术方案如下:
第一方面,本申请实施例提供了一种信息采集方法,应用于服务器,所述方法包括:
从存放业务数据库的数据源端读取预设采集状态表记录的所述业务数据库中发生数据变化的业务表的名称和所述业务表对应的更新操作;其中,所述业务表的名称和所述业务表对应的更新操作由所述数据源端在监听到所述业务数据库中的业务表发生数据变化时,添加到所述预设采集状态表中;
根据所述业务表对应的更新操作确定所述业务表处于新增状态、删除状态或修改状态;
若所述业务表处于新增状态或修改状态,则根据所述业务表的名称从所述业务数据库中获取所述业务表的元数据信息;
若所述业务表处于删除状态,则不从所述业务数据库中获取所述业务表的元数据信息。
第二方面,本申请实施例还提供了一种信息采集装置,应用于服务器,所述装置包括:
读取模块,用于从存放业务数据库的数据源端读取预设采集状态表记录的所述业务数据库中发生数据变化的业务表的名称和所述业务表对应的更新操作;其中,所述业务表的名称和所述业务表对应的更新操作由所述数据源端在监听到所述业务数据库中的业务表发生数据变化时,添加到所述预设采集状态表中;
状态确定模块,用于根据所述业务表对应的更新操作确定所述业务表处于新增状态、删除状态或修改状态;
信息获取模块,用于若所述业务表处于新增状态或修改状态,则根据所述业务表的名称从所述业务数据库中获取所述业务表的元数据信息;若所述业务表处于删除状态,则不从所述业务数据库中获取所述业务表的元数据信息。
第三方面,本申请实施例还提供了一种服务器,包括处理器和存储器,所述存储器存储有能够被所述处理器执行的计算机程序,所述计算机程序被所述处理器执行时实现上述第一方面所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于新华三大数据技术有限公司,未经新华三大数据技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201910694437.2/2.html,转载请声明来源钻瓜专利网。
- 上一篇:基于神经网络的律师推荐方法及相关设备
- 下一篇:一种关联性分析方法