[发明专利]数据同步方法、装置、设备及存储介质在审
申请号: | 202111535283.6 | 申请日: | 2021-12-15 |
公开(公告)号: | CN114238350A | 公开(公告)日: | 2022-03-25 |
发明(设计)人: | 聂志 | 申请(专利权)人: | 平安科技(深圳)有限公司 |
主分类号: | G06F16/23 | 分类号: | G06F16/23;G06F16/27 |
代理公司: | 深圳市力道知识产权代理事务所(普通合伙) 44507 | 代理人: | 张传义 |
地址: | 518057 广东省深圳市福田区福*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 数据 同步 方法 装置 设备 存储 介质 | ||
本申请涉及数据同步领域,具体公开了一种数据同步方法、装置、设备及存储介质,所述方法包括:获取待同步数据和所述待同步数据的数量;根据所述待同步数据的数量确定当前的数据同步方式,并获取同步配置参数和同步执行参数;当所述待同步数据的数量不大于预设阈值时,确定所述数据同步方式为单线程同步,并根据所述同步配置参数对所述待同步数据进行数据同步;当所述待同步数据的数量大于预设阈值时,确定所述数据同步方式为多线程同步,根据所述待同步数据的数量、所述同步执行参数和所述同步配置参数确定单线程任务数和任务批次,并根据所述单线程任务数和所述任务批次进行数据同步。旨在提高数据同步的可靠性。
技术领域
本申请涉及数据同步领域,尤其涉及一种数据同步方法、装置、设备及存储介质。
背景技术
随着互联网技术的发展,业务系统每天都需要将增量数据同步至其他子系统,从而实现各个子系统之间数据的同步。但目前的同步方案中大多是使用一个子系统来向业务系统请求增量数据,然后再通过消息系统将增量数据同步给其他子系统,该同步方案结构简单,当增量数据过大时可能会出现数据同步过程的中断,进而导致增量数据无法自动同步。
发明内容
本申请提供了一种数据同步方法、装置、设备及存储介质,旨在提高数据同步的可靠性。
第一方面,本申请提供了一种数据同步方法,所述方法包括:
获取待同步数据和所述待同步数据的数量;
根据所述待同步数据的数量确定当前的数据同步方式,并获取同步配置参数和同步执行参数;
当所述待同步数据的数量不大于预设阈值时,确定所述数据同步方式为单线程同步,并根据所述同步配置参数对所述待同步数据进行数据同步,得到同步执行参数;
当所述待同步数据的数量大于预设阈值时,确定所述数据同步方式为多线程同步,根据所述待同步数据的数量、所述同步执行参数和所述同步配置参数确定单线程任务数和任务批次,并根据所述单线程任务数和所述任务批次进行数据同步。
第二方面,本申请还提供了一种数据同步装置,所述装置包括:
数据获取模块,用于获取待同步数据和所述待同步数据的数量;
方式确定模块,用于根据所述待同步数据的数量确定当前的数据同步方式,并获取同步配置参数和同步执行参数;
单线程同步模块,用于当所述待同步数据的数量不大于预设阈值时,确定所述数据同步方式为单线程同步,并根据所述同步配置参数对所述待同步数据进行数据同步,得到同步执行参数;
多线程同步模块,用于所述待同步数据的数量大于预设阈值时,确定当所述数据同步方式为多线程同步,根据所述待同步数据的数量、所述同步执行参数和所述同步配置参数确定单线程任务数和任务批次,并根据所述单线程任务数和所述任务批次进行数据同步。
第三方面,本申请还提供了一种计算机设备,所述计算机设备包括存储器和处理器;所述存储器用于存储计算机程序;所述处理器,用于执行所述计算机程序并在执行所述计算机程序时实现如上述的数据同步方法。
第四方面,本申请还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时使所述处理器实现如上述的数据同步方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于平安科技(深圳)有限公司,未经平安科技(深圳)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111535283.6/2.html,转载请声明来源钻瓜专利网。
- 数据显示系统、数据中继设备、数据中继方法、数据系统、接收设备和数据读取方法
- 数据记录方法、数据记录装置、数据记录媒体、数据重播方法和数据重播装置
- 数据发送方法、数据发送系统、数据发送装置以及数据结构
- 数据显示系统、数据中继设备、数据中继方法及数据系统
- 数据嵌入装置、数据嵌入方法、数据提取装置及数据提取方法
- 数据管理装置、数据编辑装置、数据阅览装置、数据管理方法、数据编辑方法以及数据阅览方法
- 数据发送和数据接收设备、数据发送和数据接收方法
- 数据发送装置、数据接收装置、数据收发系统、数据发送方法、数据接收方法和数据收发方法
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置
- 数据发送方法、数据再现方法、数据发送装置及数据再现装置