[发明专利]一种数据处理方法、装置、系统、电子设备及存储介质在审
申请号: | 202011039859.5 | 申请日: | 2020-09-28 |
公开(公告)号: | CN112181686A | 公开(公告)日: | 2021-01-05 |
发明(设计)人: | 张永鹏 | 申请(专利权)人: | 北京金山云网络技术有限公司 |
主分类号: | G06F9/54 | 分类号: | G06F9/54;G06F9/50 |
代理公司: | 北京柏杉松知识产权代理事务所(普通合伙) 11413 | 代理人: | 丁芸;马敬 |
地址: | 100085 北京市海淀*** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 数据处理 方法 装置 系统 电子设备 存储 介质 | ||
1.一种数据处理方法,其特征在于,所述方法包括:
在预设数据消费队列中读取待处理数据;
执行用于预处理所述待处理数据的第一预处理操作、用于预存储所述待处理数据的第二预处理操作及用于预上报偏移量的第三预处理操作;
在所述第一预处理操作、所述第二预处理操作及所述第三预处理操作中的至少一个操作执行失败时,将数据状态恢复至从所述预设数据消费队列读取所述待处理数据之前的状态。
2.根据权利要求1所述的方法,其特征在于,所述方法还包括:
在所述第一预处理操作、所述第二预处理操作及所述第三预处理操作均执行成功时,基于所述第一预处理操作完成对所述待处理数据的处理,基于所述第二预处理操作完成对所述待处理数据的存储,并基于所述第三预处理操作完成上报偏移量。
3.根据权利要求2所述的方法,其特征在于,所述执行用于预处理所述待处理数据的第一预处理操作、用于预存储所述待处理数据的第二预处理操作及用于预上报偏移量的第三预处理操作,包括:
为用于预处理所述待处理数据的第一预处理操作分配第一服务资源,所述第一服务资源包括计算资源及缓存资源;利用所述第一服务资源执行所述第一预处理操作,得到所述待处理数据的预处理结果;
为用于预存储所述待处理数据的第二预处理操作分配第二服务资源,所述第二服务资源包括计算资源及存储资源;利用所述第二服务资源执行所述第二预处理操作,得到所述待处理数据的预存储结果;
为用于预上报偏移量的第三预处理操作分配第三服务资源,所述第三服务资源包括计算资源、接口资源及缓存资源;利用所述第三服务资源执行所述第三预处理操作,得到所述待处理数据的预上报偏移量结果。
4.根据权利要求3所述的方法,其特征在于,所述在所述第一预处理操作、所述第二预处理操作及所述第三预处理操作均执行成功时,基于所述第一预处理操作完成对所述待处理数据的处理,基于所述第二预处理操作完成对所述待处理数据的存储,并基于所述第三预处理操作完成上报偏移量的步骤,包括:
在所述第一预处理操作、所述第二预处理操作及所述第三预处理操作均执行成功时,基于所述预处理结果完成对所述待处理数据的处理,基于所述预存储结果完成对所述待处理数据的存储,并基于所述预上报偏移量结果完成上报偏移量。
5.一种数据处理方法,其特征在于,所述方法包括:
接收针对待处理数据的读取请求;
将所述待处理数据发送至消费者设备,以使得消费者设备读取所述待处理数据,并执行用于预处理所述待处理数据的第一预处理操作、用于预存储所述待处理数据的第二预处理操作及用于预上报偏移量的第三预处理操作;
接收所述消费者设备发送的偏移量,对数据存储状态进行更新。
6.一种数据处理装置,其特征在于,所述装置包括:
读取单元,用于在预设数据消费队列中读取待处理数据;
执行单元,用于执行用于预处理所述待处理数据的第一预处理操作、用于预存储所述待处理数据的第二预处理操作及用于预上报偏移量的第三预处理操作;
回滚单元,用于在所述第一预处理操作、所述第二预处理操作及所述第三预处理操作中的至少一个操作执行失败时,将数据状态恢复至从所述预设数据消费队列读取所述待处理数据之前的状态。
7.一种数据处理装置,其特征在于,所述装置包括:
接收单元,用于接收针对待处理数据的读取请求;
发送单元,用于将所述待处理数据发送至消费者设备,以使得消费者设备读取所述待处理数据,并执行用于预处理所述待处理数据的第一预处理操作、用于预存储所述待处理数据的第二预处理操作及用于预上报偏移量的第三预处理操作;
更新单元,用于接收所述消费者设备发送的偏移量,对数据存储状态进行更新。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于北京金山云网络技术有限公司,未经北京金山云网络技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202011039859.5/1.html,转载请声明来源钻瓜专利网。