[发明专利]一种数据同步方法和装置有效
申请号: | 201710711758.X | 申请日: | 2017-08-18 |
公开(公告)号: | CN109413127B | 公开(公告)日: | 2022-04-12 |
发明(设计)人: | 程夏衍;王燕佳 | 申请(专利权)人: | 北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司 |
主分类号: | H04L67/1095 | 分类号: | H04L67/1095;H04L67/5682 |
代理公司: | 中原信达知识产权代理有限责任公司 11219 | 代理人: | 张一军;陆锦华 |
地址: | 100195 北京市海淀区杏石口路6*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据 同步 方法 装置 | ||
本发明公开了一种数据同步方法和装置,涉及计算机技术领域。该方法的一具体实施方式包括:以预设的时间间隔定期查询并获取与本地数据对应的数据库数据的第一版本信息;在每次执行所述查询并获取的操作之后,将所述本地数据的第二版本信息与所述第一版本信息进行比对,其中,当第一版本信息指示的版本高于第二版本信息指示的版本时,获取与所述本地数据对应的数据库数据,并根据该获取的数据库数据同步所述本地数据,然后将所述第二版本信息更新为所述第一版本信息。该实施方式能够确保同步后的本地数据与数据库的最新数据最终保持一致,此外,还可以使不同业务类型的数据同步平行运行、互不干扰,减少请求同步单个业务类型数据时的数据传输。
技术领域
本发明涉及计算机技术领域,尤其涉及一种数据同步方法和装置。
背景技术
目前多数应用场景下会使用定时将数据库中的数据进行获取同步,从而进行数据使用操作,在具体业务领域中,许多系统线上应用时会使用到配置信息数据,例如风控系统的业务需要配置脚本语言执行规则,以便线上业务能灵活地执行处理各项业务逻辑,配置的规则数据为了稳定性及易操作性通常情况下会放在关系型数据库中,随着系统对数据获取时效性需求的提高,一般会将配置的执行规则数据定时从关系型数据库中同步出来以供应用系统调用。
一般情况下,同步数据库数据到其他系统采用的技术方案是定期检查数据库更新,如果有更新则进行同步并应用数据库更新到系统中。判断数据库是否有更新的方法是比较上次同步时间和数据库最后更新时间,如果上次同步时间早于数据库最后更新时间,则数据库中数据有更新。为了避免数据库记录删除无法获取最后更新时间,数据只允许更新和插入。这个方案存在的问题是效率不够高,对数据库过于依赖,当使用规则引擎的应用集群较大时,数据库查询并发很大,尤其是在数据库有更新时,应用会集中获取数据库规则内容,给数据库带来很大负担,若此时还有其他数据库操作,将会出现性能问题。
在上述方案的基础上可以使用redis缓存数据库查询结果,即将从数据库查询到的数据放入redis缓存中,再根据redis缓存中的数据同步本地数据,数据同步的步骤包括:
步骤1:查询数据库,获取数据库中的数据d1;
步骤2:将数据d1放到redis缓存;
步骤3:根据redis缓存中的数据d1同步本地数据。
数据库中数据更新的步骤包括:
步骤4:数据库将数据d1更新数据为d2;
步骤5:redis缓存执行数据删除操作,删除数据d1,以便下次读时会从数据库中读取数据查询结果到redis中。
然而,现有方案在分布式环境下,步骤1至步骤3和步骤4至步骤5很可能是在不同的机器上执行,如果机器A执行了步骤1以后,在执行步骤2和步骤3之前,机器B执行完成了步骤4至步骤5,那么redis缓存中存放的实际上是数据d1,而数据库中存放的是d2,并且因为上次同步数据d1的时间晚于数据库最后更新数据d2的时间,即使redis中数据过时后,本地系统也不会去再去请求数据库中的数据。
在实现本发明过程中,发明人发现现有技术中至少存在如下问题:
现有方案存在同步后的本地数据与数据库中的最新数据不一致的情况。
发明内容
有鉴于此,本发明实施例提供一种数据同步方法和装置,能够确保同步后的本地数据与数据库的最新数据最终保持一致,此外,还可以使不同业务类型的数据同步平行运行、互不干扰,减少请求同步单个业务类型数据时的数据传输。
为实现上述目的,根据本发明实施例的一个方面,提供了一种数据同步方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司,未经北京京东尚科信息技术有限公司;北京京东世纪贸易有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201710711758.X/2.html,转载请声明来源钻瓜专利网。
- 上一篇:新能源汽车租赁管理系统
- 下一篇:一种数据处理方法、装置及电子设备
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置