[发明专利]一种MySQL数据库增量同步实现方法在审
申请号: | 202110188538.X | 申请日: | 2021-02-19 |
公开(公告)号: | CN112835918A | 公开(公告)日: | 2021-05-25 |
发明(设计)人: | 苗亚囡;方建勋;李朝铭 | 申请(专利权)人: | 浪潮云信息技术股份公司 |
主分类号: | G06F16/23 | 分类号: | G06F16/23;G06F16/27;G06F16/28 |
代理公司: | 济南信达专利事务所有限公司 37100 | 代理人: | 姜鹏 |
地址: | 250100 山东省济南市高*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 mysql 数据库 增量 同步 实现 方法 | ||
1.一种MySQL数据库增量同步实现方法,其特征在于,该方法会在同步增量之前获取唯一的全局事务标识符即GTID值,并以该值为基点去解析MySQL的二进制日志文件的增量事务,将解析后的增量数据以自定义标准字节流的形式暂存到CMSP消息队列中,借助CMSP的加密压缩传输机制传输到入库端,再通过解析入库的消息队列,用于实现MySQL从源库到目标库的数据同步。
2.根据权利要求1所述的一种MySQL数据库增量同步实现方法,其特征在于,MySQL的全局事务标识符是对于每个已提交的事务的编号,且是连续并全局唯一;所述全局事务标识符由server_uuid:transaction_id组成,每个所述的MySQL服务器有一个全局唯一的server_uuid以及有内部不会重复且是连续递增的事务序号transaction_id。
3.根据权利要求2所述的一种MySQL数据库增量同步实现方法,其特征在于,当开启GTID模式后,MySQL数据库会在新增、更新、删除增量操作事务提交后创建唯一的全局事务序号,并把对应值以事件形式记录在二进制日志文件中。
4.根据权利要求3所述的一种MySQL数据库增量同步实现方法,其特征在于,当增量采集开始时以增量同步前获取的全局事务序号为起点进行数据事件类型的解析,当解析表为配置表,同时存在已提交的新增、变更和删除事务时,对GTID事件解析获取该事务的全局事务标识符,然后对数据事件内容进行按行解析获取数据记录,直到解析完本事务才开始新事务得解析,并获取对应的全局事务序号。
5.根据权利要求4所述的一种MySQL数据库增量同步实现方法,其特征在于,创建一张数据类型为一个整型和一个可变长度的字符串的测试表,向所述测试表中插入一条数据并提交,MySQL源库首先会在二进制日志文件的gtid事件中记录下所述事务的全局事务标识符,并在write_rows事件中记录新增的数据内容。
6.根据权利要求5所述的一种MySQL数据库增量同步实现方法,其特征在于,对于MySQL数据中执行新增操作时,依据全局事务序号解析新增事件中对应的每个字段的新增数据,并将解析的新增数据以标准字节流形式存储在CMSP消息队列中,通过CMSP的加密传输及入库组件的解析,将插入的增量数据转存到目标库。
7.根据权利要求6所述的一种MySQL数据库增量同步实现方法,其特征在于,在MySQL数据库中执行更新操作时,类似插入操作,修改测试表的一条记录数据并提交,MySQL源库会在二进制日志文件的gtid事件中记录该事务的序号,同时在update_rows更新事件中记录更新列数和数据值。
8.根据权利要求7所述的一种MySQL数据库增量同步实现方法,其特征在于,对于MySQL数据库中执行更新操作时,依据全局事务序号解析更新事件的内容,并将解析出的数据值以标准字节流的形式存储到CMSP的消息队列中,经过CMSP的加密传输和入库组件的解析,将更新数据转存的目标库。
9.根据权利要求8所述的一种MySQL数据库增量同步实现方法,其特征在于,在MySQL数据库中执行删除操作时,删除测试表的一条数据并提交,执行删除数据操作时,MySQL源库会在二进制日志文件的gtid事件中记录该事务的提交序号,并在delete_row删除事件中记录删除的数据列。
10.根据权利要求9所述的一种MySQL数据库增量同步实现方法,其特征在于,对于MySQL数据库中执行删除操作时,依据该事务的全局事务序号解析删除事件的内容,并将删除数据信息以标准字节流的形式存储到CMSP的消息队列中,通过CMSP的加密压缩传输及入库组件的解析,将删除数据转存到目标库。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于浪潮云信息技术股份公司,未经浪潮云信息技术股份公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202110188538.X/1.html,转载请声明来源钻瓜专利网。
- 上一篇:纱线收卷装置以及拆线设备
- 下一篇:一种强同步角色故障的识别与恢复方法