[发明专利]流式计算系统中计算节点的故障处理有效
申请号: | 201710035881.4 | 申请日: | 2017-01-17 |
公开(公告)号: | CN106874133B | 公开(公告)日: | 2020-06-23 |
发明(设计)人: | 石然;程怡;张建伟;高伟康 | 申请(专利权)人: | 北京百度网讯科技有限公司 |
主分类号: | G06F11/07 | 分类号: | G06F11/07 |
代理公司: | 北京同立钧成知识产权代理有限公司 11205 | 代理人: | 杨泽;刘芳 |
地址: | 100085 北京市*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明的目的是提供一种用于流式计算系统中的故障处理的方法、装置、计算节点和计算机程序产品。其中,在一个计算节点,记录来自上游计算节点的各原始数据的到达顺序;将所述各原始数据按照预定的周期进行持久化操作;当发生故障而重启后,按照所记录的到达顺序从经持久化操作的原始数据和/或所述上游计算节点恢复内存中的待计算数据,并将所恢复的待计算数据按照其之前的到达顺序进行重放和计算;将每条计算完毕的结果数据按照故障前上一持久化操作周期的结果数据的偏移量继续编码并发送至下一节点。与现有技术相比,本发明提供了一种在框架层实现的流式计算输出结果不重不丢的容错机制,可应对各种软硬件故障,保证输出结果的高准确性。 | ||
搜索关键词: | 计算 系统 节点 故障 处理 | ||
【主权项】:
一种用于流式计算系统中的故障处理方法,其中,在一个计算节点,该方法包括以下步骤:‑记录来自上游计算节点的各原始数据的到达顺序;‑将所述各原始数据按照预定的周期进行持久化操作;‑当发生故障而重启后,按照所记录的到达顺序从经持久化操作的原始数据和/或所述上游计算节点恢复内存中的待计算数据,并将所恢复的待计算数据按照其之前的到达顺序进行重放和计算;‑将每条计算完毕的结果数据按照故障前上一持久化操作周期的结果数据的偏移量继续编码并发送至下一节点。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京百度网讯科技有限公司,未经北京百度网讯科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201710035881.4/,转载请声明来源钻瓜专利网。
- 上一篇:一种异常处理方法和装置
- 下一篇:工单类型的处理方法、装置及系统