[发明专利]一种保障数据一致性的处理方法、装置及服务器有效

专利信息
申请号: 201710674738.X 申请日: 2017-08-09
公开(公告)号: CN107577717B 公开(公告)日: 2020-11-03
发明(设计)人: 许溢天;庞磊;王安红 申请(专利权)人: 创新先进技术有限公司
主分类号: G06F16/11 分类号: G06F16/11
代理公司: 北京三友知识产权代理有限公司 11127 代理人: 李辉
地址: 开曼群岛大开曼岛*** 国省代码: 暂无信息
权利要求书: 查看更多 说明书: 查看更多
摘要:
搜索关键词: 一种 保障 数据一致性 处理 方法 装置 服务器
【权利要求书】:

1.一种保障数据一致性的处理方法,所述方法包括:

记录数据源节点的队列的事件时间,所述事件时间包括队列从所述数据源节点读取数据的时间;

若接收到数据处理失败的触发消息,则基于所述事件时间确定所述数据源节点的队列上一次数据处理成功的监控计算窗口时间节点;

以所述监控计算窗口时间节点作为数据源节点的队列的统一回退时间点重新读取数据源的数据,

其中,基于所述事件时间确定所述数据源节点的队列上一次数据处理成功的监控计算窗口时间节点包括:

获取所述数据源中队列上一次数据处理成功的时间点,对所述时间点中时间最早的时间点进行监控计算窗口时间单位级别的格式化,得到所述上一次数据处理成功的监控计算窗口时间节点,

或者,获取所述数据源中队列上一次数据处理成功的时间点,根据所述时间点中队列的偏移量确定上一个监控计算窗口的时间节点。

2.如权利要求1所述的一种保障数据一致性的处理方法,重新读取所述数据源的数据之后,所述方法还包括:

以所述统一回退时间点对所述重新读取数据源节点的数据进行过滤,删除所述统一回退时间点之前的数据。

3.如权利要求2中所述的一种保障数据一致性的处理方法,所述方法还包括:

本地持久化当前监控计算窗口内处理成功的数据的状态数据;以及,

在重新读取所述数据源的数据之后,删除本地持久化的状态数据,并本地持久化所述重新读取数据源的数据被处理的状态数据。

4.如权利要求3中所述的一种保障数据一致性的处理方法,使用磁盘或内存数据存储所述状态数据。

5.一种保障数据一致性的处理装置,所述装置包括:

事件时间记录模块,用于记录数据源节点的队列的事件时间,所述事件时间包括队列从所述数据源节点读取数据的时间;

重读取时间确定模块,用于在接收到数据处理失败的触发消息时,基于所述事件时间确定所述队列在上一次数据处理成功的监控计算窗口时间节点;

数据读取模块,用于以所述监控计算窗口时间节点作为数据源节点的队列的统一回退时间点重新读取数据源的数据;

其中,所述重读取时间确定模块包括下述之一:

第一计算模块,用于获取所述数据源中队列上一次数据处理成功的时间点,根据所述队列的偏移量确定上一个监控计算窗口的时间节点;

第二计算模块,用于获取所述数据源中队列上一次数据处理成功的时间点,对所述时间点中时间最早的时间点进行所述监控计算窗口时间单位级别的格式化,得到所述上一次数据处理成功的监控计算窗口时间节点。

6.如权利要求5所述的一种保障数据一致性的处理装置,所述装置还包括:

过滤模块,用于以所述统一回退时间点对所述重新读取数据源节点的数据进行过滤,删除所述统一回退时间点之前的数据。

7.如权利要求6所述的一种保障数据一致性的处理装置,所述装置还包括:

存储模块,用于本地持久化当前监控计算窗口内处理成功的数据的状态数据;以及,

用于在重新读取所述数据源的数据之后,删除本地持久化的状态数据,并本地持久化所述重新读取数据源的数据被处理的状态数据。

8.如权利要求7所述的一种保障数据一致性的处理装置,所述存储模块包括下述中的任意一种存储介质:

磁盘,内存。

下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。

该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于创新先进技术有限公司,未经创新先进技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服

本文链接:http://www.vipzhuanli.com/pat/books/201710674738.X/1.html,转载请声明来源钻瓜专利网。

×

专利文献下载

说明:

1、专利原文基于中国国家知识产权局专利说明书;

2、支持发明专利 、实用新型专利、外观设计专利(升级中);

3、专利数据每周两次同步更新,支持Adobe PDF格式;

4、内容包括专利技术的结构示意图流程工艺图技术构造图

5、已全新升级为极速版,下载速度显著提升!欢迎使用!

请您登陆后,进行下载,点击【登陆】 【注册】

关于我们 寻求报道 投稿须知 广告合作 版权声明 网站地图 友情链接 企业标识 联系我们

钻瓜专利网在线咨询

周一至周五 9:00-18:00

咨询在线客服咨询在线客服
tel code back_top