[发明专利]一种分布式数据处理方法及系统有效
申请号: | 201510659205.5 | 申请日: | 2015-10-12 |
公开(公告)号: | CN106570038B | 公开(公告)日: | 2020-05-22 |
发明(设计)人: | 郭志斌;张云勇;雷磊;陈晓明 | 申请(专利权)人: | 中国联合网络通信集团有限公司 |
主分类号: | G06F16/2458 | 分类号: | G06F16/2458;G06F16/27 |
代理公司: | 北京安信方达知识产权代理有限公司 11262 | 代理人: | 韩辉峰;李丹 |
地址: | 100033 *** | 国省代码: | 北京;11 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | 本发明公开了一种分布式数据处理方法及系统,包括服务代理单元将请求处理的任务分解成若干个子任务,其中每个子任务只涉及一个维度的计算任务;数据节点在相应的网卡对接收到的子任务进行数据处理。通过本发明这种将数据节点按照不同的维度进行划分以对不同维度的数据分别进行处理的方式,降低了各数据节点之间的网络IO,提高了跨节点的数据处理的效率,从而避免了短板效应。 | ||
搜索关键词: | 一种 分布式 数据处理 方法 系统 | ||
【主权项】:
一种分布式数据处理系统,其特征在于,至少包括:包括一个或一个以上应用的应用单元、服务代理单元,以及包括一个或一个以上数据节点的数据节点单元;其中,应用单元,用于发起数据统计、分析、查询或者处理等数据处理请求;服务代理单元,用于接收到数据处理请求,将请求处理的任务分解成若干个子任务,其中每个子任务只涉及一个维度的计算任务,将分解后的子任务输出给指定的数据节点;数据节点,根据不同的维度设置有相应的网卡,根据接收到的计算子任务进行相应数据处理。
下载完整专利技术内容需要扣除积分,VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于中国联合网络通信集团有限公司,未经中国联合网络通信集团有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/patent/201510659205.5/,转载请声明来源钻瓜专利网。
- 上一篇:全温程-组合仓位智能温控投递柜
- 下一篇:一种皇菊花的烘干装置