[发明专利]增量数据采集方法、装置及系统在审
申请号: | 201811561133.0 | 申请日: | 2018-12-20 |
公开(公告)号: | CN109634937A | 公开(公告)日: | 2019-04-16 |
发明(设计)人: | 钟武;王纯斌;张永飞;杨尧 | 申请(专利权)人: | 成都四方伟业软件股份有限公司 |
主分类号: | G06F16/21 | 分类号: | G06F16/21;G06F16/215;G06F16/28 |
代理公司: | 北京超凡志成知识产权代理事务所(普通合伙) 11371 | 代理人: | 邓超 |
地址: | 610000 四川省*** | 国省代码: | 四川;51 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 增量数据 监听 数据库 配置界面 配置请求 装置及系统 增量事件 采集 采集设备 工作效率 配置操作 可视化 字段 申请 发送 门槛 配置 部署 | ||
1.一种增量数据采集方法,其特征在于,应用于增量数据采集设备,所述方法包括:
通过接收预设客户端发送的对数据存储设备的增量部署请求,所述增量部署请求包括环境配置请求和数据存储设备配置请求;
根据所述数据存储设备配置请求对所述数据存储设备进行相应配置,使得所述数据存储设备能够发送增量数据,所述增量数据为所述数据存储设备发生变更的数据;
根据所述环境配置请求部署相应增量监听环境,通过所述增量监听环境监听所述增量数据。
2.根据权利要求1所述的增量数据采集方法,其特征在于,所述根据所述环境配置请求部署相应增量监听环境的步骤包括:
解析所述增量部署请求,获得增量监听规则;
根据所述增量监听规则部署相应的增量监听环境。
3.根据权利要求2所述的增量数据采集方法,其特征在于,所述增量监听规则包括目标数据存储设备、目标数据表和目标字段;所述根据所述增量监听规则部署相应的增量监听环境的步骤包括:
根据所述目标数据存储设备、目标数据表和目标字段部署增量监听环境。
4.根据权利要求3所述的增量数据采集方法,其特征在于,所述通过所述增量监听环境监听所述增量数据的步骤包括:
根据所述增量监听规则对所述增量数据进行清洗,进而过滤掉不符合规则的数据。
5.根据权利要求4所述的增量数据采集方法,其特征在于,所述方法还包括:
将所述增量数据推送到其他数据处理平台。
6.一种增量数据采集系统,其特征在于,所述增量数据采集系统包括客户端、至少一个数据存储设备和增量数据采集设备;
所述客户端提供增量配置界面,响应用户对数据存储设备增量配置操作,并发送增量部署请求,所述增量部署请求包括环境配置请求和数据存储设备配置请求;
所述增量数据采集设备根据所述数据存储设备配置请求对所述数据存储设备进行相应配置,使得所述数据存储设备能够发送增量数据,所述增量数据为所述数据存储设备发生变更的数据;
所述增量数据采集设备获取所述增量部署请求,根据所述增量部署请求中的环境配置请求部署相应增量监听环境,通过所述增量监听环境监听所述增量数据。
7.一种增量数据采集装置,其特征在于,应用于增量数据采集设备,所述增量数据采集设备包括请求获取模块、设备配置模块和环境配置模块;
所述请求获取模块用于通过接收预设客户端发送的对数据存储设备的增量部署请求,所述增量部署请求包括环境配置请求和数据存储设备配置请求;
所述设备配置模块用于根据所述数据存储设备配置请求对所述数据存储设备进行相应配置,使得所述数据存储设备能够发送增量数据,所述增量数据为所述数据存储设备发生变更的数据;
所述环境配置模块用于根据所述环境配置请求部署相应增量监听环境,通过所述增量监听环境监听所述增量数据。
8.根据权利要求7所述的增量数据采集装置,其特征在于,所述环境配置模块通过以下方式部署所述增量监听环境:
解析所述增量部署请求,获得增量监听规则;
根据所述增量监听规则部署相应的增量监听环境。
9.根据权利要求8所述的增量数据采集装置,其特征在于,所述增量监听规则包括目标数据存储设备、目标数据表和目标字段;所述环境配置模块还通过以下方式部署增量监听环境:
根据所述目标数据存储设备、目标数据表和目标字段部署增量监听环境。
10.根据权利要求8所述的增量数据采集装置,其特征在于,所述增量数据采集装置还包括数据推送模块;
所述数据推送模块用于将所述增量数据推送到其他数据处理平台。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于成都四方伟业软件股份有限公司,未经成都四方伟业软件股份有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811561133.0/1.html,转载请声明来源钻瓜专利网。