[发明专利]多核数据流处理器及任务调度方法在审
申请号: | 202310403236.9 | 申请日: | 2023-04-10 |
公开(公告)号: | CN116431348A | 公开(公告)日: | 2023-07-14 |
发明(设计)人: | 高源;刘培业;李浩然;仲睿光;方元炜;薛菲 | 申请(专利权)人: | 阿里巴巴(中国)有限公司 |
主分类号: | G06F9/50 | 分类号: | G06F9/50 |
代理公司: | 北京泛华伟业知识产权代理有限公司 11280 | 代理人: | 王勇 |
地址: | 311121 浙江省杭州市余杭*** | 国省代码: | 浙江;33 |
权利要求书: | 查看更多 | 说明书: | 查看更多 |
摘要: | |||
搜索关键词: | 多核 数据流 处理器 任务 调度 方法 | ||
1.一种用于多核数据流处理器的多任务分配和调度方法,所述方法包括:
根据每个内核的内核实际任务信息和稠密任务信息计算每个内核的稀疏度;
计算每个内核基于稠密输入获得输出并到达远汇内核对应的稠密运行时间,以及基于每个内核的稀疏度、内核对应的稠密运行时间计算每个内核到达远汇内核的优先级分数,或基于每个内核的稀疏度、内核对应的稠密运行时间、内核带宽参数计算每个内核到达远汇内核的优先级分数;
基于每个内核到达远汇内核的优先级分数分配和调度处理器任务。
2.根据权利要求1所述的方法,其特征在于,
所述内核实际任务信息包括内核实际任务计算量、内核处理任务的实际运行时间、内核任务输出到远汇内核节点的实际数据传输时间;所述内核的稠密任务信息包括内核稠密任务计算量、内核处理稠密任务的运行时间、内核稠密任务输出到远汇内核节点的稠密传输时间。
3.根据权利要求2所述的方法,其特征在于,所述内核的稀疏度通过获取计算量稀疏度作为内核稀疏度获得;
其中,计算量稀疏度为内核实际任务计算量与内核稠密任务计算量的比值。
4.根据权利要求2所述的方法,其特征在于,所述内核的稀疏度通过获取计算量稀疏度、运行时间稀疏度和/或数据传输稀疏度,并根据获得的数据进行加权平均作为内核稀疏度获得;
其中,所述计算量稀疏度为内核实际任务计算量与内核稠密任务计算量的比值,所述运行时间稀疏度为内核处理任务的实际运行时间与内核处理稠密任务的运行时间的比值;所述数据传输稀疏度为内核任务输出到远汇内核节点的实际数据传输时间与内核稠密任务输出到远汇内核节点的稠密传输时间的比值。
5.根据权利要求3-4任一所述的方法,其特征在于,
基于每个内核的稀疏度、内核对应的稠密运行时间计算每个内核到达远汇内核的优先级分数时:内核优先级分数是内核的剩余计算量;
基于每个内核的稀疏度、内核对应的稠密运行时间、内核带宽参数计算每个内核到达远汇内核的优先级分数时:内核优先级分数是内核剩余计算量与内核带宽参数的差值;
其中,所述内核剩余计算量为该内核的稀疏度与该内核对应的稠密运行时间的乘积,所述内核带宽参数为预设的带宽系数、内核周围带宽占用率、内核平均资源用量的乘积,所述内核平均资源用量为该内核所需平均带宽与该内核平均任务量的比值。
6.根据权利要求1所述的方法,其特征在于,所述方法包括:基于每个内核到达远汇内核的优先级分数分配和调度处理器任务时按照由高到低的顺序调度内核。
7.根据权利要求6所述的方法,其特征在于,在调度内核时,在所调度的内核占用的带宽超过预设的带宽阈值时暂停调度该内核。
8.根据权利要求7所述的方法,其特征在于,所述预设的带宽阈值根据多核数据流处理器的处理单元的带宽能力设置。
9.一种多核数据流处理器,其包括多个处理单元,处理单元相互通信连接形成该处理器的片上网络结构,其中,每个处理单元包括:
片上网络处理模块,用于处理当前处理单元与其他处理单元的通信;
多个计算通道,用于被内核调度以执行任务;
调度器,用于采用如权利要求1-8任一所述的方法对在处理单元上运行的所有内核进行调度;
静态随机存取存储器,用于存储计算通道执行任务后的结果。
10.根据权利要求9所述的处理器,其特征在于,所述调度器包括:
调度器选项槽,用于存储被分配给调度器所在处理单元的所有任务对应的内核信息;
运行分数计算器,用于计算每个内核到达远汇内核的优先级分数;
计分板,用于记录每个内核的优先级分数并对内核进行排序;
选择器,用于根据计分板中的排序选择调度器选项槽中的内核进行调度。
该专利技术资料仅供研究查看技术是否侵权等信息,商用须获得专利权人授权。该专利全部权利属于阿里巴巴(中国)有限公司,未经阿里巴巴(中国)有限公司许可,擅自商用是侵权行为。如果您想购买此专利、获得商业授权和技术合作,请联系【客服】
本文链接:http://www.vipzhuanli.com/pat/books/202310403236.9/1.html,转载请声明来源钻瓜专利网。