[发明专利]提升广域多集群分布式系统执行任务效率的方法及装置有效
申请号: | 202310448223.3 | 申请日: | 2023-04-24 |
公开(公告)号: | CN116185596B | 公开(公告)日: | 2023-08-01 |
发明(设计)人: | 白文媛;高丰;毛良献 | 申请(专利权)人: | 之江实验室 |
主分类号: | G06F9/48 | 分类号: | G06F9/48;G06F9/50 |
代理公司: | 北京博思佳知识产权代理有限公司 11415 | 代理人: | 邓超 |
地址: | 311121 浙江省杭*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 提升 广域 集群 分布式 系统 执行 任务 效率 方法 装置 | ||
本说明书公开了提升广域多集群分布式系统执行任务效率的方法及装置,在广域多集群分布式系统的各子队列中确定待执行任务,再确定该待执行任务的时延、执行该待执行任务的目标集群及该待执行任务所需的资源所在的集群,最后,根据时延将所需的资源调度至目标集群。在广域多集群分布式系统中,由于集群数量较多,各集群之间的物理距离较远,执行分布式任务时,会存在各种时延,降低了执行任务的效率,因此,本方法通过确定广域多集群分布式系统中待执行任务的时延,在执行当前任务的同时,根据该时延将执行该任务的数据提前调度到目标集群,在执行待执行任务时,不再需要等待所需数据的调度,提高了处理广域多集群分布式任务的效率。
技术领域
本说明书涉及计算机领域,尤其涉及提升广域多集群分布式系统执行任务效率的方法及装置。
背景技术
随着计算机技术的发展,利用单集群执行分布式任务越来越常见,但随着业务需求的变化,完成业务所要执行的任务增多,单集群环境无法满足业务需求,因此,为了能完成需要执行的任务,任务运行的环境从单集群环境发展为多集群环境,若多集群环境中的各集群物理距离较远,则称该多集群环境为广域多集群环境。对于广域多集群环境来说,由于每个集群之间的距离较远,因此,利用物理线路及多个中间路由器实现通信的成本较高,并且在跨集群通信时,存在通信时延。
因此,在广域多集群环境中,如何提高处理分布式任务的效率是个亟待解决的问题。
发明内容
本说明书提供提升广域多集群分布式系统执行任务效率的方法、装置、存储介质及电子设备,以部分的解决现有技术存在的上述问题。
本说明书采用下述技术方案:
本说明书提供了提升广域多集群分布式系统执行任务效率的方法,分布式系统由分布在广域的多个集群构成,包括:
确定由分布式任务中的各子任务构成的子任务队列;
在所述子任务队列中,确定执行顺序在当前执行的任务之后的待执行任务;
根据所述待执行任务,确定所述待执行任务的信息,作为第一信息;
根据所述第一信息和每个集群的可用资源,在各集群中,确定执行所述待执行任务的目标集群;
确定所述目标集群的时延因素信息;
将所述时延因素信息输入预先训练的通信时延预测模型,以通过所述通信时延预测模型确定时延;
根据所述时延,确定调度所述待执行任务的调度时间提前量;
根据所述调度时间提前量,将所述待执行任务调度至所述目标集群。
可选地,确定执行顺序在当前执行的任务之后的待执行任务,具体包括:
确定预设数量的执行顺序在当前执行的任务之后的待执行任务。
可选地,根据所述第一信息和每个集群的可用资源,在各集群中,确定执行所述待执行任务的目标集群,具体包括:
根据所述第一信息,确定执行所述待执行任务的资源;
根据执行所述待执行任务的资源及每个集群的可用资源,在各集群中,确定可用资源不少于执行所述待执行任务的资源的集群,作为目标集群。
可选地,确定所述目标集群的时延因素信息,具体包括:
根据执行所述待执行任务所需的数据所在的集群,确定发送所述所需的数据的发送时延因素信息,作为第一因素信息;
根据所述目标集群,确定接收所述所需的数据的接收时延因素信息,作为第二因素信息;
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于之江实验室,未经之江实验室许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310448223.3/2.html,转载请声明来源钻瓜专利网。