[发明专利]一种storm数据流反压方法以及节点在审
申请号: | 201810565586.4 | 申请日: | 2018-06-04 |
公开(公告)号: | CN108768881A | 公开(公告)日: | 2018-11-06 |
发明(设计)人: | 王文庆;杜彦魁;关坤龙 | 申请(专利权)人: | 郑州云海信息技术有限公司 |
主分类号: | H04L12/825 | 分类号: | H04L12/825;H04L12/863 |
代理公司: | 北京安信方达知识产权代理有限公司 11262 | 代理人: | 王康;解婷婷 |
地址: | 450018 河南省郑州市*** | 国省代码: | 河南;41 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 发送队列 接收队列 减小 自适应 数据流 上游节点 下游节点 过载消息 节点接收 反压 发送 节点设置 保存 本节点 震荡 | ||
1.一种storm数据流反压方法,其特征在于,包括:;
节点设置接收队列和发送队列,所述节点包括数据源读取节点Spout和数据处理节点Bolt,所述接收队列用于保存上游节点发送的数据流元组Tuple,所述发送队列用于保存并向下游节点发送本节点已处理完毕的数据流元组Tuple;
节点接收到来自下游节点的过载消息后,根据下游节点接收队列的大小自适应减小自身的发送队列大小;以及根据减小后的发送队列大小自适应减小自身的接收队列大小;
节点接收到来自上游节点的过载消息后,根据上游节点发送队列大小自适应减小自身的接收队列大小,以及根据减小后的接收队列大小自适应减小自身的发送队列大小。
2.根据权利要求1所述的基于可变队列的storm数据流反压方法,其特征在于,还包括:
节点接收到过载解除的消息后,线性增加自身的队列大小。
3.根据权利要求1或2所述的基于可变队列的storm数据流反压方法,其特征在于,还包括:
节点若从未接收到过载消息,指数增加自身的队列大小。
4.根据权利要求1所述的基于可变队列的storm数据流反压方法,其特征在于,节点接收到来自下游节点的过载消息后,根据下游节点接收队列的大小自适应减小自身的发送队列大小;以及根据减小后的发送队列大小自适应减小自身的接收队列大小;节点接收到来自上游节点的过载消息后,根据上游节点发送队列大小自适应减小自身的接收队列大小,以及根据减小后的接收队列大小自适应减小自身的发送队列大小,包括:
节点接收到来自下游节点的过载消息后,将自身的发送队列大小设置为当前发送队列大小的一半,以及将自身的接收队列大小设置为当前接收队列大小的一半;
节点接收到来自上游节点的过载消息后,将自身的接收队列大小设置为当前接收队列大小的一半,以及将自身的发送队列大小设置为当前发送队列大小的一半。
5.一种storm数据流反压节点,其特征在于,所述节点包括数据源读取节点Spout和数据处理节点Bolt,每个节点包括:
接收队列,用于保存上游节点发送的数据流元组Tuple;
发送队列,用于保存并向下游节点发送本节点已处理完毕的数据流元组Tuple;
过载模块,用于在本节点过载时产生过载消息,并发送过载消息;
调整模块,用于接收到来自下游节点的过载消息后,根据下游节点接收队列的大小自适应减小发送队列大小,以及根据减小后的发送队列大小自适应减小接收队列大小;接收到来自上游节点的过载消息后,根据上游节点发送队列大小自适应减小接收队列大小,以及根据减小后的接收队列大小自适应减小发送队列大小。
6.根据权利要求5所述的storm数据流反压节点,其特征在于,
调整模块,还用于在节点接收到过载解除的消息后,线性增加节点的队列大小。
7.根据权利要求5或6所述的storm数据流反压节点,其特征在于,
调整模块,还用于在节点从未接收到过载消息的情况下,指数增加节点的队列大小。
8.根据权利要求5所述的storm数据流反压节点,其特征在于,
调整模块,用于接收到来自下游节点的过载消息后,将节点的发送队列大小设置为当前发送队列大小的一半,以及将接收队列大小设置为当前接收队列大小的一半;接收到来自上游节点的过载消息后,将节点的接收队列大小设置为当前接收队列大小的一半,以及将发送队列大小设置为当前发送队列大小的一半。
9.一种计算机可读存储介质,其特征在于,所述介质存储有计算机可执行指令,所述计算机可执行指令被处理器执行时实现权利要求1至4中任一项所述的storm数据流反压方法。
10.一种storm数据流反压设备,其特征在于,包括:
存储器,设置为存储指令;
处理器,设置为执行所述指令,实现权利要求1至4中任一项所述的storm数据流反压方法的步骤。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于郑州云海信息技术有限公司,未经郑州云海信息技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201810565586.4/1.html,转载请声明来源钻瓜专利网。