[发明专利]处理预写日志的方法、装置及系统在审
申请号: | 202210158482.8 | 申请日: | 2022-02-21 |
公开(公告)号: | CN114579532A | 公开(公告)日: | 2022-06-03 |
发明(设计)人: | 伊翼;胡建洪;张友东;孟庆义 | 申请(专利权)人: | 阿里巴巴(中国)有限公司 |
主分类号: | G06F16/18 | 分类号: | G06F16/18;G06F9/54;G06F16/27 |
代理公司: | 北京智信禾专利代理有限公司 11637 | 代理人: | 赵杰 |
地址: | 310052 浙江省杭州市滨江*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 处理 日志 方法 装置 系统 | ||
1.一种处理预写日志的方法,包括:
基于消息队列通信协议提供发布接口以及订阅接口;
通过所述发布接口接收预写日志写入请求;
根据所述预写日志写入请求携带的数据获取预写日志记录;
将所述预写日志记录存储入消息队列,使订阅端通过所述订阅接口消费所述日志记录;
其中,所述预写日志记录中的日志序号是基于消息偏移量与日志序号之间的对应规则确定的,所述消息偏移量是所述预写日志记录在消息队列中的消息偏移量,所述日志序号,用于使订阅端基于消息偏移量与日志序号之间的对应规则,确定需要回放的预写日志记录对应的消息偏移量。
2.根据权利要求1所述的方法,所述通过所述发布接口接收预写日志写入请求,包括:
通过所述发布接口接收所述数据库的计算引擎发出的预写日志写入请求,其中,所述预写日志写入请求是所述计算引擎响应于接收到数据写入请求,将数据写入请求携带的数据转换为预写日志的格式之后发出的。
3.根据权利要求1所述的方法,所述将预写日志记录存储入消息队列,包括:
根据发布所述预写日志记录的数据库映射到的消息主题,将所述预写日志记录存储入所述消息主题下的消息队列中,其中,数据库与消息主题之间是一一对应的映射关系。
4.根据权利要求1所述的方法,所述预写日志记录中单条日志记录的内容,包括:多个字段各自的描述信息以及所述多个字段各自的日志数据。
5.根据权利要求1所述的方法,还包括:
利用分布式一致性协议与其他预写日志组件节点之间保持预写日志的一致性。
6.一种处理预写日志的装置,包括:
接口提供模块,被配置为基于消息队列通信协议提供发布接口以及订阅接口;
请求接收模块,被配置为通过所述发布接口接收预写日志写入请求;
记录获取模块,被配置为根据所述预写日志写入请求携带的数据获取预写日志记录;
记录存储模块,被配置为将所述预写日志记录存储入消息队列,使订阅端通过所述订阅接口消费所述日志记录;
其中,所述预写日志记录中的日志序号是基于消息偏移量与日志序号之间的对应规则确定的,所述消息偏移量是所述预写日志记录在消息队列中的消息偏移量,所述日志序号,用于使订阅端基于消息偏移量与日志序号之间的对应规则,确定需要回放的预写日志记录对应的消息偏移量。
7.一种处理预写日志的系统,包括:数据库以及应用如权利要求1-5任一项所述处理预写日志的方法实现的预写日志组件;
其中,所述数据库包括:
计算引擎,被配置为响应于数据写入请求,通过所述预写日志组件提供的发布接口向预写日志组件发送预写日志写入请求;
存储引擎,被配置为作为订阅端通过所述预写日志组件提供的订阅接口消费预写日志记录,在发生存储异常时基于消息偏移量与日志序号之间的对应规则,确定需要回放的预写日志记录对应的消息偏移量。
8.根据权利要求7所述的系统,所述数据库为数据库集群中的任意数据库,所述数据库集群包括主数据库集群以及备数据库集群。
9.根据权利要求7所述的系统,还包括:所述数据库以外的外部应用程序;
所述外部应用程序,被配置为作为订阅端通过所述预写日志组件提供的订阅接口消费预写日志记录。
10.一种计算设备,包括:
存储器和处理器;
所述存储器用于存储计算机可执行指令,所述处理器用于执行所述计算机可执行指令,该计算机可执行指令被处理器执行时实现权利要求1至5任意一项所述处理预写日志的方法的步骤。
11.一种计算机可读存储介质,其存储有计算机可执行指令,该计算机可执行指令被处理器执行时实现权利要求1至5任意一项所述处理预写日志的方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴(中国)有限公司,未经阿里巴巴(中国)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202210158482.8/1.html,转载请声明来源钻瓜专利网。
- 上一篇:布水装置及边进边出沉淀池
- 下一篇:一种化工污泥处理装置及方法