[发明专利]利用工作需求反馈在处理器之间进行工作划分的方法和系统

说明书

技术领域

本公开涉及工作划分，并且更具体地，涉及利用工作需求反馈进行工作划分。

背景技术

在具有多个处理器的计算机系统上，并行处理可以通过把与任务相关联的工作负载分配给处理器来使得能够减少执行那个任务所需要的时间。在以这种方式利用基于循环的或递归的并行性来提高性能的程序中，在减少与跨多个处理器的工作分解和分配相关联的开销的需要对增加潜在的并行性用于改进的负载平衡和处理器的利用的期望之间存在有冲突。这个冲突常常通过粒度的选择来解决，粒度是可以受益于并行性的工作量上的下限。粒度是限制将要应用于任务的细分数量的截止点。

然而，存在有对于这个方法的许多限制。可能难以选择适当的粒度，并且最佳粒度级可以在任务之间并且甚至在给定的任务内变化。如果工作负载跨任务是不平衡的，则对于具有显著工作的子任务来说可能是有效的小粒度可以对于具有更少工作的其它子任务引起过多的开销。备选地，适合具有更轻工作负载的子任务的更大粒度可以导致具有更大工作负载的子任务的过载、负载不平衡和处理资源的利用不足。

附图说明

随着下面的具体实施方式进行以及当参考附图（其中相同的附图标记描绘相同的部分）时，要求保护的主题的实施例的特征和优势将变得显而易见，并且其中：

图1图示了与本公开一致的一个示范性实施例的系统硬件框图；

图2图示了与本公开一致的一个示范性实施例的系统逻辑框图；

图3图示了与本公开一致的一个示范性实施例的操作的流程图；以及

图4图示了与本公开一致的一个示范性实施例的操作的流程图。

虽然下面的具体实施方式将以对说明性的实施例作出的参考来进行，但是对于本领域技术人员来说，其许多的备选、修改和变化将是显而易见的。

具体实施方式

1. 介绍

通常，本公开提供了用于基于递归的任务划分和处理器利用反馈而在多个处理器当中的任务的运行时间负载平衡的方法和系统。任务可以定义为需要进行的、通过在处理器上执行一个或多个指令来完成的、应用于相关联的数据的任何类型的工作。任务可以包括用户提供的代码或内部代码或两者的组合。一些（而不是所有）类型的任务能够被分成子任务，其中的每一个可以在不同处理器上被并行执行。这可导致性能改进，因为作为并行执行每个子任务的结果通常将会更快地完成工作。然而，由于与例如划分任务、执行处理器间通信和同步以及将每个子任务的部分结果重新装配成总结果相关联的开销导致在某种程度上将会限制实际性能改进。

可以在细分的下一个更低级重复将工作分成子任务的过程，因为可以将子任务进一步分成更小的子子任务等等。理论上，可以通过随后的更低级无限地向下重复任务细分的这个过程。将任务细分成大量愈来愈小的子子任务的优势是可以在大量处理器上更均匀地分配这些子子任务用于互相并行执行，由于负载平衡导致提供了性能的总增加。然而，存在有对于实际上可以达到的细分级的限制。首先，最终将存在有其中由于子子任务的小尺寸和/或它的组件指令（components instructions）必须被连续执行的事实而导致子子任务是不可分的点。其次，因为子子任务变得更小，它们执行的有用工作的量（根据定义，任务得要执行的工作）可减少，而与子子任务相关联的开销可保持基本不变，即与子子任务的大小无关。因此，在某个点，没有从进一步细分中获得效率，并且实际上性能可能会降低，因为与专用于有用的工作的处理时间相比，更多的处理时间专用于开销。第三，存在有在其上可以分配子子任务的有限数量的处理器，所以在某个点，进一步细分停止增加可以执行的并行执行的量。

下面将更详细描述将任务分成子任务的重复过程（也称为递归分解）。递归的一个示例是其中可执行代码的单元（例如子程序）调用它自己的技术。递归分解可以由应用于任务的子程序来完成以创建更小的子任务。分解子程序的每次调用创建递归的新的级或深度。这可以导致无限循环，如果在子程序中不存在当被满足时防止调用分解的更多级的条件测试的话。结束条件可以是子子任务不再是可分的或递归级已经超过深度阈值。

2. 定义

任务可以定义为需要利用相关联的数据来进行的任何类型的工作，其通过在处理器上执行一个或多个指令来完成。任务可以包括用户提供的代码和数据或者内部代码和数据或者两者的组合。任务可以在其执行期间创建其它任务，例如它可以被分成子任务并且子任务可以被进一步细分成子子任务等等。