[发明专利]数据同步方法、系统、电子设备及计算机可读存储介质在审
申请号: | 201811244243.4 | 申请日: | 2018-10-24 |
公开(公告)号: | CN109359139A | 公开(公告)日: | 2019-02-19 |
发明(设计)人: | 张坤 | 申请(专利权)人: | 拉扎斯网络科技(上海)有限公司 |
主分类号: | G06F16/2458 | 分类号: | G06F16/2458;G06F16/27;G06F9/50 |
代理公司: | 北京智信四方知识产权代理有限公司 11519 | 代理人: | 刘真 |
地址: | 200333 上海*** | 国省代码: | 上海;31 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 计算机可读存储介质 处理流程 电子设备 过滤数据 解析数据 数据同步 消息存储 非关系型数据库 关系型数据库 存储器 过滤规则 数据发送 预设 回溯 解析 过滤 写入 数据库 存储 | ||
1.一种数据同步方法,其特征在于,包括:
将数据库中的数据发送至分布式发布订阅消息的处理流程;
消费所述分布式发布订阅消息处理流程中的数据并进行解析,得到解析数据;以及
按照预设过滤规则对所述解析数据进行过滤,得到过滤数据,将所述过滤数据存储到存储器中。
2.根据权利要求1所述的方法,其特征在于,在将数据库中的数据发送至所述分布式发布订阅消息的处理流程之前,包括:
初始化配置信息;
其中,配置信息包括:数据库的连配置、分布式发布订阅消息的配置信息、数据处理的参数信息、预设过滤规则、存储器中表的结构信息。
3.根据权利要求1所述的方法,其特征在于,在所述将所述过滤数据存储到存储器中之后,还包括:
存储消费所述分布式发布订阅消息的处理流程中的数据的函数。
4.一种数据回溯方法,其特征在于,包括:
设置回溯数据表的参数,并根据所述参数获取对应的偏移量;
根据所述对应的偏移量,消费分布式发布订阅消息的处理流程中的数据并进行解析,得到解析数据;以及
按照预设过滤规则对所述解析数据进行过滤,得到过滤数据,将所述过滤数据存储到存储器中。
5.一种数据同步系统,其特征在于,包括:
发送模块,被配置为将数据库中数据发送至分布式发布订阅消息的处理流程;
解析模块,被配置为消费所述分布式发布订阅消息的处理流程中的数据并进行解析,得到解析数据;
过滤模块,被配置为按照预设过滤规则对所述解析数据进行过滤,得到过滤数据;
存储模块,被配置为将所述过滤数据存储到存储器中。
6.根据权利要求5所述的系统,其特征在于,还包括:
初始化模块,被配置为初始化配置信息;
其中,配置信息包括:数据库的连配置、分布式发布订阅消息的配置信息、数据处理的参数信息、预设过滤规则、存储器中表的结构信息。
7.根据权利要求5所述的系统,其特征在于,所述存储模块,被配置为存储消费所述分布式发布订阅消息的处理流程中的数据的函数。
8.一种数据回溯系统,其特征在于,包括:
设置模块,被配置为设置回溯数据表的参数;
函数获取模块,被配置为根据所述参数,获取对应的偏移量;
解析模块,被配置为消费分布式发布订阅消息的处理流程中的数据并进行解析,得到解析数据;
过滤模块,被配置为按照预设过滤规则对所述解析数据进行过滤,得到过滤数据;
存储模块,被配置为将所述过滤数据存储到存储器中。
9.一种电子设备,其特征在于,包括存储器和处理器;其中,
所述存储器用于存储一条或多条计算机指令,其中,所述一条或多条计算机指令被所述处理器执行以实现权利要求1-4任一项所述的方法步骤。
10.一种计算机可读存储介质,其上存储有计算机指令,其特征在于,该计算机指令被处理器执行时实现权利要求1-4任一项所述的方法步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于拉扎斯网络科技(上海)有限公司,未经拉扎斯网络科技(上海)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201811244243.4/1.html,转载请声明来源钻瓜专利网。