[发明专利]一种AI平台训练任务调度的方法、装置、设备及介质在审
申请号: | 202111604321.9 | 申请日: | 2021-12-24 |
公开(公告)号: | CN114443278A | 公开(公告)日: | 2022-05-06 |
发明(设计)人: | 袁利杰 | 申请(专利权)人: | 苏州浪潮智能科技有限公司 |
主分类号: | G06F9/50 | 分类号: | G06F9/50 |
代理公司: | 北京连和连知识产权代理有限公司 11278 | 代理人: | 杨帆;宋薇薇 |
地址: | 215000 江苏省苏州*** | 国省代码: | 江苏;32 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 一种 ai 平台 训练 任务 调度 方法 装置 设备 介质 | ||
1.一种AI平台训练任务调度的方法,其特征在于,包括以下步骤:
响应于AI平台中待训练任务的等待时间超过预设时间,分别计算超过预设时间的训练任务以及后面的训练任务的预估训练时间;
基于每个任务对应用户的排队任务数量和用户正在运行任务数量的比例由大到小将每个任务进行排序以形成第一序列;
基于每个任务对应用户已运行的训练任务所使用的计算资源数目由多到少进行排序以形成第二序列;
基于每个任务的预估训练时间由大到小进行排序以形成第三序列;
基于每个任务在所述第一序列、第二序列和第三序列中的得分和权重计算每个任务的最终得分,并基于最终得分将任务的顺序进行排序。
2.根据权利要求1所述的方法,其特征在于,响应于AI平台中待训练任务的等待时间超过预设时间,分别计算超过预设时间的训练任务以及后面的训练任务的预估训练时间包括:
建立完成训练任务的实际时间和用户输入的预估时间的差值对应的权重的对应表;
使用公式:T2=(t1*w1+t2*w2+…+tn*wn)/n计算平台预估训练时间,其中,t1代表待计算训练任务对应用户的第一个已完成训练任务的使用时间,w1代表待计算训练任务对应用户的第一个已完成训练任务在所述对应表中的权重,t2代表待计算训练任务对应用户的第二个已完成训练任务的使用时间,w2代表待计算训练任务对应用户的第二个已完成训练任务在所述对应表中的权重,tn代表待计算训练任务对应用户的第n个已完成训练任务的使用时间,wn代表待计算训练任务对应用户的第n个已完成训练任务在所述对应表中的权重,n代表任务的个数;
使用公式:T=(T1*w+T2)/2计算训练任务的预估训练时间,其中,T1代表待计算训练任务对应的用户输入的预估时间,w为设定的阈值,T2为平台预估训练时间。
3.根据权利要求1所述的方法,其特征在于,还包括:
设定所述第一序列中每个排位对应任务的分数,设定所述第二序列中每个排位对应任务的分数,设定所述第三序列中每个排位对应任务的分数;
设定所述第一序列的权重值,设定所述第二序列的权重值,设定所述第三序列的权重值。
4.根据权利要求3所述的方法,其特征在于,基于每个任务在所述第一序列、第二序列和第三序列中的得分和权重计算每个任务的最终得分,并基于最终得分将任务的顺序进行排序包括:
使用公式:x=x1*δ1+x2*δ2+x3*δ3计算任务的最终得分,其中,x1代表任务在所述第一序列中的分数,δ1代表所述第一序列的权重值,x2代表任务在所述第二序列中的分数,δ2代表所述第二序列的权重值,x3代表任务在所述第三序列中的分数,δ3代表所述第三序列的权重值;
根据最终得分由高到低将对应的任务进行排序。
5.一种AI平台训练任务调度的装置,其特征在于,所述装置包括:
计算模块,所述计算模块配置为响应于AI平台中待训练任务的等待时间超过预设时间,分别计算超过预设时间的训练任务以及后面的训练任务的预估训练时间;
第一排序模块,所述第一排序模块配置为基于每个任务对应用户的排队任务数量和用户正在运行任务数量的比例由大到小将每个任务进行排序以形成第一序列;
第二排序模块,所述第二排序模块配置为基于每个任务对应用户已运行的训练任务所使用的计算资源数目由多到少进行排序以形成第二序列;
第三排序模块,所述第三排序模块配置为基于每个任务的预估训练时间由大到小进行排序以形成第三序列;
第四排序模块,所述第四排序模块配置为基于每个任务在所述第一序列、第二序列和第三序列中的得分和权重计算每个任务的最终得分,并基于最终得分将任务的顺序进行排序。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于苏州浪潮智能科技有限公司,未经苏州浪潮智能科技有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202111604321.9/1.html,转载请声明来源钻瓜专利网。