[发明专利]一种基于Flume的数据传输方法、系统、终端及存储介质在审
申请号: | 202010603030.7 | 申请日: | 2020-06-29 |
公开(公告)号: | CN111752911A | 公开(公告)日: | 2020-10-09 |
发明(设计)人: | 胡永泽 | 申请(专利权)人: | 苏州浪潮智能科技有限公司 |
主分类号: | G06F16/18 | 分类号: | G06F16/18 |
代理公司: | 济南舜源专利事务所有限公司 37205 | 代理人: | 刘雪萍 |
地址: | 215100 江苏省苏州市吴*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 基于 flume 数据传输 方法 系统 终端 存储 介质 | ||
1.一种基于Flume的数据传输方法,其特征在于,包括:
S1、创建存放传输通道的队列,包括:待写入队列和写入成功队列;
S2、获取所有需要写入事件的传输通道并放入待写入队列;
S3、从待写入队列中顺序获取传输通道,逐一执行写入事件操作并进行监控操作结果:
若写入成功,则将写入成功的传输通道转移到写入成功队列;
若写入失败,则对当前操作的传输通道以及写入成功队列中的传输通道全部进行事务回滚操作;
S4、判断待写入队列是否为空:若是,在写入成功队列中依次获取传输通道,并逐一进行事务提交操作。
2.根据权利要求1所述的一种基于Flume的数据传输方法,其特征在于,所述方法还包括:
将进行事务回滚操作的所有传输通道重新放入待写入队列;
向数据源返回发送失败的结果,等待数据源重新向传输通道发送事件。
3.根据权利要求1所述的一种基于Flume的数据传输方法,其特征在于,所述存放传输通道事件的队列,还包括:提交成功队列。
4.根据权利要求3所述的一种基于Flume的数据传输方法,其特征在于,所述方法还包括:
将提交成功的传输通道放入提交成功队列中;
判断写入成功队列是否为空:若是,则向数据源返回提交成功的结果。
5.根据权利要求4所述的一种基于Flume的数据传输方法,其特征在于,在向数据源返回提交成功的结果之后,所述方法还包括:
数据源接收提交成功的结果;
数据源发送下一个事件到Flume,再次进行步骤S2。
6.一种基于Flume的数据传输系统,其特征在于,包括
队列创建单元,配置用于创建存放传输通道的队列,包括:待写入队列和写入成功队列;
通道获取单元,配置用于获取所有需要写入事件的传输通道并放入待写入队列;
事件写入单元,配置用于从待写入队列中顺序获取传输通道,逐一执行写入事件操作并进行监控操作结果:若写入成功,则将写入成功的传输通道转移到写入成功队列;若写入失败,则对当前操作的传输通道以及写入成功队列中的传输通道全部进行事务回滚操作;
事件提交单元,配置用于判断待写入队列是否为空:若是,在写入成功队列中依次获取传输通道,并逐一进行事务提交操作。
7.一种终端,其特征在于,包括:
处理器;
用于存储处理器的执行指令的存储器;
其中,所述处理器被配置为执行权利要求1-5任一项所述的方法。
8.一种存储有计算机程序的计算机可读存储介质,其特征在于,该程序被处理器执行时实现如权利要求1-5中任一项所述的方法。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州浪潮智能科技有限公司,未经苏州浪潮智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202010603030.7/1.html,转载请声明来源钻瓜专利网。