[发明专利]离散流处理模型下批次间隔大小的动态设置系统及方法有效
申请号: | 201610124877.0 | 申请日: | 2016-03-04 |
公开(公告)号: | CN105677489B | 公开(公告)日: | 2017-06-20 |
发明(设计)人: | 史玉良;崔立真;李庆忠;郑永清;刘金 | 申请(专利权)人: | 山东大学 |
主分类号: | G06F9/50 | 分类号: | G06F9/50 |
代理公司: | 济南圣达知识产权代理有限公司37221 | 代理人: | 张勇 |
地址: | 250061 山东*** | 国省代码: | 山东;37 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了离散流处理模型下批次间隔大小的动态设置系统及方法,该系统包括主节点,其分别与数据源和若干工作节点连接,所述主节点上部署有接收器和任务管理模块,所述接收器依次通过批次控制模块和观察模块与工作节点连接;主节点将从数据源中得到流数据;所述观察模块,用于对集群中的负载信息和网络流量信息进行监控,计算出符合设定条件的批次间隔值;所述批次控制模块,将批次间隔值传输给接收器,按照批次间隔值对接收器中的流数据切分批次;所述任务管理模块将每个批次划分为分布式任务,并分配到工作节点中进行计算;所述批次间隔值是指从接收器中取出未被处理的数据的时间间隔;按照批次间隔值进行处理的数据叫做间隔值下对应的批次。 | ||
搜索关键词: | 离散 处理 模型 批次 间隔 大小 动态 设置 系统 方法 | ||
【主权项】:
离散流处理模型下批次间隔大小的动态设置系统,其特征在于,包括:主节点,其分别与数据源和若干工作节点连接,所述主节点上部署有接收器和任务管理模块,所述接收器依次通过批次控制模块和观察模块与工作节点连接;主节点将从数据源中得到流数据;所述观察模块,用于对集群中的负载信息和网络流量信息进行监控,计算出符合设定条件的批次间隔值;所述批次控制模块,将批次间隔值传输给接收器,按照批次间隔值对接收器中的流数据切分批次;所述任务管理模块将每个批次划分为分布式任务,并分配到工作节点中进行计算;所述批次间隔值是指从接收器中取出未被处理的数据的时间间隔;按照批次间隔值进行处理的数据叫做间隔值下对应的批次。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于山东大学,未经山东大学许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201610124877.0/,转载请声明来源钻瓜专利网。