[发明专利]流计算系统中的数据处理方法、控制节点及流计算系统有效
申请号: | 201410082041.X | 申请日: | 2014-03-06 |
公开(公告)号: | CN103870340B | 公开(公告)日: | 2017-11-07 |
发明(设计)人: | 史云龙;夏命榛;何诚 | 申请(专利权)人: | 华为技术有限公司 |
主分类号: | G06F9/50 | 分类号: | G06F9/50 |
代理公司: | 北京同达信恒知识产权代理有限公司11291 | 代理人: | 黄志华 |
地址: | 518129 广东*** | 国省代码: | 广东;44 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 计算 系统 中的 数据处理 方法 控制 节点 | ||
1.一种流计算系统中的数据处理方法,所述流计算系统包括控制节点和多个工作节点,其特征在于,该方法包括:
所述控制节点根据配置的各个工作节点的并发度,调用所述多个工作节点中的一个或多个工作节点对数据流进行处理;其中,所述一个或多个工作节点中的每个工作节点包含一个或多个执行单元,所述每个工作节点的并发度用于表示所述每个工作节点所包含的执行单元的个数;当所述每个工作节点被调用对数据流进行处理时,具体由所述每个工作节点所包含的执行单元处理数据流;
所述控制节点收集所述一个或多个工作节点中每个工作节点与其它工作节点之间的数据流量信息和所述一个或多个工作节点中每个工作节点的处理速度信息;
所述控制节点根据收集到的数据流量信息和处理速度信息确定所述一个或多个工作节点中的每个工作节点的优化并发度;
所述控制节点确定所述一个或多个工作节点中的每个工作节点的优化并发度与所述每个工作节点的并发度是否相同,如果不相同,则按照所述每个工作节点的优化并发度对所述每个工作节点的并发度进行调整。
2.如权利要求1所述的方法,其特征在于,所述控制节点按照所述每个工作节点的优化并发度对所述每个工作节点的并发度进行调整,包括:
当所述每个工作节点的优化并发度大于所述每个工作节点的并发度时,所述控制节点根据所述每个工作节点的优化并发度为所述每个工作节点新增至少一个执行单元,或当所述工作节点的优化并发度小于该工作节点的并发度时,删除所述每个工作节点的至少一个执行单元,使得所述每个工作节点当前包含的执行单元个数所表征的所述每个工作节点的并发度与所述每个工作节点的优化并发度相同。
3.如权利要求2所述的方法,其特征在于,所述控制节点根据所述每个工作节点的优化并发度为所述每个工作节点新增至少一个执行单元包括:
所述控制节点生成用于创建新的执行单元的第一控制指令并发送给所述每个工作节点,使得所述每个工作节点接收到所述第一控制指令后创建至少一个新执行单元,并创建所述新执行单元与其它执行单元的数据通道,其中所述每个工作节点当前包含的执行单元的总个数所表征的所述每个工作节点的并发度与所述每个工作节点的优化并发度相同。
4.如权利要求2或3所述的方法,其特征在于,所述控制节点删除所述每个工作节点的至少一个执行单元包括:
所述控制节点生成用于删除所述每个工作节点的执行单元的第二控制指令并发送给所述每个工作节点,使得所述每个工作节点接收到所述第二控制指令后删除所述每个工作节点的至少一个执行单元,并删除与所述删除的执行单元连接的数据通道,其中所述每个工作节点当前包含的执行单元的总个数所表征的所述每个工作节点的并发度与所述每个工作节点的优化并发度相同。
5.如权利要求4所述的方法,其特征在于,在根据所述每个工作节点的优化并发度为所述每个工作节点新增至少一个执行单元,或删除所述每个工作节点的至少一个执行单元之后,所述方法还包括:
所述控制节点根据新增或删除的至少一个执行单元,调整所述每个工作节点对应的上游工作节点的数据派发策略,所述数据派发策略用于表示所述每个工作节点在派发数据时,接收数据的设备以及接收数据的设备在接收数据时的数据量;
所述控制节点向所述上游工作节点发送调整后的数据派发策略,使得所述上游工作节点根据调整后的数据派发策略,在确定下游的目标工作节点对应的目标执行单元后,将数据包对应派发到所述目标执行单元。
6.如权利要求4所述的方法,其特征在于,在根据所述每个工作节点的优化并发度为所述每个工作节点新增至少一个执行单元,或删除所述每个工作节点的至少一个执行单元之后,所述方法还包括:
所述控制节点根据新增或删除的至少一个执行单元,调整所述每个工作节点对应的上游工作节点的数据派发策略;
所述控制节点向所述上游工作节点发送调整后的数据派发策略,使得所述上游工作节点根据调整后的数据派发策略,确定目标工作节点所属的工作节点组,所述工作节点组包括至少一个工作节点;并从所述工作节点组中确定下游的目标工作节点,以及在确定所述目标工作节点对应的目标执行单元后,将数据包对应派发到所述目标执行单元。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于华为技术有限公司,未经华为技术有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/201410082041.X/1.html,转载请声明来源钻瓜专利网。