[发明专利]一种基于CPU与MIC架构处理器协同计算的负载均衡优化方法

说明书

技术领域

本发明涉及计算机高性能计算领域、科学计算领域，具体涉及一种基于CPU与MIC架构处理器协同计算的负载均衡优化方法。 

背景技术

传统的CPU在功耗、主频等方面逐渐逼近当前半导体技术的极限，人们不得不另辟蹊径，创新性地发展出多核甚至众核架构处理器，在此背景下，Intel的MIC架构众核处理器应运而生。CPU与MIC架构处理器协同计算的软件模式，将逐渐成为高性能计算的主流软件架构模式。 

然而，在具体应用中，我们发现，简单地将应用软件移植到CPU与MIC架构处理器组成的异构平台，性能提升并不理想，这就是异构架构处理器协同计算模式中，我们遇到的最大挑战，因此软件的再优化显得极为必要。 

负载均衡优化，是软件性能优化的重要内容。所谓负载，是指多个任务之间的工作量分布情况，负载均衡是指各任务之间的工作量分配均衡。负载均衡在并行计算里指的是将任务平均分配到并行执行系统中各个计算资源上，使之充分发挥计算能力，没有空闲或等待，也不存在负载过度。好的并行方法可以发挥好的负载均衡效果，负载不均衡将会导致计算效率的下降以及糟糕的扩展性。因此，实现负载均衡是并行计算中的重要方面，尤其对于MIC架构处理器来说，其核数众多，优良的负载均衡对其性能的影响更为明显。 

为了提高CPU与MIC架构处理器组成的异构平台系统上软件的性能表现，需要对软件进行针对性地优化改造。本方法关注于CPU与MIC架构处理器协同计算的负载均衡优化，最大化提升计算资源利用率，提升软件效能。 

发明内容

本发明的目的是为了提高CPU与MIC架构处理器组成的异构平台系统上软件的性能表现，需要对软件进行针对性地优化改造，提供一种CPU与MIC架构处理器协同计算的负载均衡优化，最大化提升计算资源利用率，提升软件效能。 

本发明的目的是按以下方式实现的，包括CPU与MIC架构处理器协同计算模式软件的负载均衡优化的层次和CPU与MIC架构处理器协同计算模式软件的负载均衡优化方法，其中： 

（1）CPU与MIC架构处理器协同计算模式软件的负载均衡优化的层次，下面分别针对三个负载均衡层次，讲述负载均衡优化的方法：

A）计算节点之间负载均衡；计算节点之间负载均衡，是指各个计算节点间的计算任务分布基本均衡，避免某节点计算量过大或过小；这里的各计算节点，都是传统CPU与MIC架构处理器构成的混合架构计算节点，节点间以MPI并行的方式并行计算，节点间的负载均衡与传统纯CPU集群上的负载均衡一致，采用静态负载均衡和动态负载均衡的方法；

B）计算节点内CPU与MIC计算设备之间负载均衡，是指计算节点内CPU与MIC计算设备之间负载均衡，是CPU与MIC设备之间计算任务基本均衡，由于CPU与MIC处理器的计算能力不等，因此CPU与MIC之间分配的计算量也不能相同，CPU与MIC之间的负载均衡最好的方式是采用动态负载均衡的方法,包括：

C）CPU和MIC计算设备内部各计算内核之间负载均衡，是指CPU和MIC计算设备内部各计算内核之间负载均衡，是指CPU和MIC设备的各个计算内核之间的计算任务分布均衡；

实现负载均衡有两种方案：静态负载均衡和动态负载均衡，其中：

a) 静态负载均衡

静态负载均衡需要人工将工作区域分割成多个可并行的部分，并保证分割成的各个部分工作量能够均衡地分布到各个进程、线程乃至处理器上运行，也就是说工作量在多个任务之间均衡地进行分配，使并行程序的加速性能最高；

b) 动态负载均衡

动态负载均衡是在程序运行过程中动态分配计算任务以达到负载均衡的目的，软件实践中存在着很多无法通过静态负载均衡方式解决的情形，主要表现为计算任务具有随机性、实时性，无法事无进行预判，动态负载均衡的系统总体性能比静态负载均衡要好，但代码实现上更复杂；

基于CPU与MIC架构处理器协同计算模式软件的负载均衡优化的方法有：

[1]任务划分：对于任务划分的应用程序，在CPU与MIC之间的负载均衡采用动态负载均衡的优化方法，假设有N个任务，一个节点内有两个MIC卡，即三个设备，1个CPU和2个MIC，动态负载均衡的方法是每个设备先获取一个任务进行计算，计算之后立即获取下一个任务，不需要等待其他设备，直到N个任务计算完成，这种方式只需要设定一个主进程，负责给各个计算进程分配任务；

任务划分优化；是指任务划分优化，是基于数据或任务并行模式的计算任务分配方式优化，从而使各并行处理单元的计算任务实现均衡；