[发明专利]一种Spark任务分配方法和系统有效
| 申请号： | 201710895070.1 | 申请日： | 2017-09-28 |
| 公开（公告）号： | CN107590003B | 公开（公告）日： | 2020-10-23 |
| 发明（设计）人： | 毛睿;陆敏华;陆克中;朱金彬;隋秀峰 | 申请（专利权）人： | 深圳大学 |
| 主分类号： | G06F9/50 | 分类号： | G06F9/50 |
| 代理公司： | 深圳市恒申知识产权事务所(普通合伙) 44312 | 代理人： | 王利彬 |
| 地址： | 518060 广东*** | 国省代码： | 广东;44 |
| 权利要求书： | 查看更多 | 说明书： | 查看更多 |
| 摘要： | 本发明属于计算机技术领域，尤其涉及一种Spark任务分配方法和系统。首先基于数据位置的选择方法对当前提交的任务和已配置的资源中所包含的节点进行配对，生成配对结果；利用已生成的节点标识与存储设备特征标识的对应关系，将配对结果中所包含的节点分组为固态硬盘节点组和机械硬盘节点组；若当前任务的操作数据同时存在于固态硬盘节点组的节点和机械硬盘节点组的节点中，优先将任务分配到固态硬盘节点组的节点中执行，即最大限度地将任务分配到配置有SSD的计算节点上，从而充分利用SSD高速读、写以及高吞吐率的特性，加快任务的执行速度，提升集群的服务质量。 | ||
| 搜索关键词： | 一种 spark 任务 分配 方法 系统 | ||
【主权项】：
一种Spark任务分配方法，其特征在于，所述方法包括：基于数据位置的选择方法对当前提交的任务和已配置的资源中所包含的节点进行配对，生成配对结果；利用所述配对结果中所包含节点的节点标识，查找已生成的节点标识与存储设备特征标识的对应关系，获取相应的存储设备特征标识；按照所述存储设备特征标识将所述配对结果中所包含节点分组为固态硬盘节点组和机械硬盘节点组；若所述任务的操作数据同时存在于所述固态硬盘节点组的节点和所述机械硬盘节点组的节点中，则将所述任务分配至所述固态硬盘节点组的任意一个节点上执行。
下载完整专利技术内容需要扣除积分，VIP会员可以免费下载。
该专利技术资料仅供研究查看技术是否侵权等信息，商用须获得专利权人授权。该专利全部权利属于深圳大学，未经深圳大学许可，擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作，请联系【客服】
本文链接：http://www.vipzhuanli.com/patent/201710895070.1/，转载请声明来源钻瓜专利网。
