[发明专利]基于异构多核架构的运行时系统及其控制方法

说明书

本发明提供一种基于异构多核架构的运行时系统及其控制方法，所述运行时系统包括：任务分配模块，用于根据所述性能差异比为为异构多核硬件本体中异构的至少两个CPU的各主核和各从核分配任务；任务窃取模块，用于根据将所述主核和所述从核中的空闲核的频率调节至最低频率时所能节约的能耗形成的电能余量进行负载均衡。本发明通过主核和从核的性能差异比为异构多核硬件本体中异构的至少两个CPU的各主核和各从核分配任务，并根据将所述主核和所述从核中的空闲核的频率调节至最低频率时所能节约的能耗形成的电能余量进行负载均衡，可以在相同异构多核架构中获取更低的能耗，在无需升级硬件设备与不增加能耗的提前下，极大化并行计算性能。

技术领域

本发明涉及芯片技术领域，特别是涉及运行时系统技术领域，具体为一种基于异构多核架构的运行时系统及其控制方法。

背景技术

运行时系统(Runtime system)，是程序运行模型中的控制部分。运行时系统是在程序执行的生命周期里工作。每一种编程语言都会设计其自身的运行模型，而大多数编程语言都实现了一定形式的运行时系统，主要功能是在程序运行时，实现该语言所要求的控制功能，满足语言所具备的特性。其中，最著名的例子是MIT Cilk运行时系统，它是一个并行编程模型，它的运行时系统主要用于实现程序运行的并行化特性。我们还需要一个运行时系统来处理编译后的代码。

为了满足高性能计算的迫切需求，许多新兴的计算机技术越来越依赖于并行计算，例如一个CPU上整合多个运算核心的多核架构。现如今，多核处理器已经在学术界和工业界成为了主流，大至数据中心，小至个人电脑和智能手机，多核处理器可谓是无处不在。因为多核处理器无论是在单位能耗上的性能表现还是在运算能力上，都要优于单核处理器。

对于多核处理器架构而言，均衡多个核之间的负载是必要的，这样每个核才能得以充分地利用，提升整体的CPU利用率。研究人员发现，在运行时系统中，动态任务调度是一种十分有效的负载均衡手段。任务窃取(Work-stealing)和任务共享(Work-sharing)就是动态任务调度中最常见的两种策略。

任务共享策略是将让所有核共享一个共享任务池，而任务窃取策略则是为每一个核都设置一个独立的任务队列。在大多数的任务窃取策略中，每个核在从自己的任务队列中添加或删除任务时都不需要加锁保护，直到当其队列为空，该核就会尝试从其他核的任务队列中窃取任务，此时需要一次加锁保护。但因为有多个核的任务队列可选择，因此相比于只有一个共享任务池的任务共享策略，任务窃取策略发生锁竞争的概率相对较低。正是如此，在传统的同构多核架构中，任务窃取策略具有良好的性能表现。

然而，芯片供应商开始生产异构的多核芯片(AMC)，形成异构多核的芯片架构，所谓异构是指包含两个性能地位不同的处理核：主核(性能较强)和从核(性能较弱)。在保证高性能的前提下，满足在不同类型的负载中低能耗的要求。在AMC架构中，例如Arm的Big-Little和Intel的Quick-IA芯片，主核即“大”核(性能较强)负责处理较复杂的计算任务，而“小”核即从核(性能较弱)负责处理简单事务性的工作。Intel在Quick-IA的设计中就提出，构建一个AMC架构的芯片时，将多个异构的CPU整合到一个共享内存的计算机中，每个CPU内的核是同构的，而CPU间是异构的，这样的AMC架构芯片会更加高效。一台计算机同时整合了多个CPU时，内存一般会按非一致性内存访问结构(NUMA)进行组织。在基于NUMA内存系统的AMC芯片中，每个CPU(NUMA节点)都有自己的本地内存节点，并且一个核从本地内存节点访问数据要比通过互连链路访问远程内存节点要快。因此，传统的任务窃取策略由于无法感知异构CPU，就会导致大量的远程内存节点访问，增加了运行时系统的能耗。

发明内容

鉴于以上所述现有技术的缺点，本发明的目的在于提供一种基于异构多核架构的运行时系统及其控制方法，用于解决现有技术中异构多核架构中动态任务调度能耗较大的问题。