[发明专利]用于Shuffle过程的数据传输方法和装置在审
| 申请号： | 202010536544.5 | 申请日： | 2020-06-12 |
| 公开（公告）号： | CN113761548A | 公开（公告）日： | 2021-12-07 |
| 发明（设计）人： | 王文生;石磊;吴雪扬 | 申请（专利权）人： | 北京沃东天骏信息技术有限公司;北京京东世纪贸易有限公司 |
| 主分类号： | G06F21/60 | 分类号： | G06F21/60;H04L29/08 |
| 代理公司： | 北京英赛嘉华知识产权代理有限责任公司 11204 | 代理人： | 王达佐;马晓亚 |
| 地址： | 100176 北京市大兴区经济技*** | 国省代码： | 北京;11 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本公开的实施例公开了用于Shuffle过程的数据传输方法和装置。该方法的一具体实施方式包括：获取该Shuffle过程前的数据集合和该Shuffle过程后的数据集合包括的分区数目，其中，该Shuffle过程前的数据集合包括至少一个分区；获取目标服务组件的数目；根据该目标服务组件的数目，确定各目标服务组件与该Shuffle过程后的数据集合的分区之间的对应关系；将该Shuffle过程前的数据集合中各分区的数据分别发送至与该Shuffle过程后的数据集合对应的目标服务组件。该实施方式实现了Spark计算过程与存储过程的解耦，有效避免了由于节点本地的故障导致Shuffle过程的重新执行，提升了Spark的稳定性和性能。 | ||
| 搜索关键词： | 用于 shuffle 过程 数据传输 方法 装置 | ||
【主权项】：
暂无信息
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于北京沃东天骏信息技术有限公司;北京京东世纪贸易有限公司，未经北京沃东天骏信息技术有限公司;北京京东世纪贸易有限公司许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/202010536544.5/，转载请声明来源钻瓜专利网。
