[发明专利]改善对非连贯设备要执行的任务的调度

说明书

技术领域

本发明涉及数据处理的领域，具体而言涉及对非连贯设备(non-coherent device)要执行的任务的调度。

背景技术

已知具有多个彼此交互的设备并且具有存储器系统的系统。在这多个不同设备有其自己的用于数据的本地存储库的情况下，可能遇到维护不同本地存储位置和存储器之间的数据连贯性(coherency)的问题。一般地，设备通过执行一致性操作(consistency operation)来解决此问题，一致性操作例如有缓存维护操作、使用屏障(barrier)以及在执行中的特定点冲刷本地存储库，其中重要的是数据对于系统的其余部分的至少一部分是连贯的。对于诸如图形处理单元GPU之类的具有长管道(pipeline)的设备，可能遇到特别的问题。在一致性操作正被执行的同时等待GPU执行一项任务向管道中引入了气泡，这在深管道中有严重的缺点。

现有技术的设备或者立即执行一致性操作，这一般导致多个更新并因此具有与之相关联的带宽成本，但具有低等待时间，或者它们等待并在批处理中一起执行一致性操作，这避免了不必要的多个更新，但增大了等待时间。

希望既减小与这种一致性操作相关联的等待时间，又不会过度影响带宽。

发明内容

从第一方面来看，本发明提供了一种用于对多个非连贯处理设备中的一个非连贯处理设备要处理的任务进行调度的方法，所述多个非连贯处理设备中的至少两个是异种设备(heterogeneous device)并且所述任务中的至少一些是针对所述多个非连贯处理设备中的特定一个的，所述多个非连贯处理设备处理本地存储库和所述多个非连贯处理设备中的至少一些可访问的存储器中存储的数据，所述方法包括：对于所述非连贯处理设备要处理的多个非依从任务(non-dependent task)中的每个非依从任务，确定在处理所述非依从任务之前需要执行的一致性操作；执行针对所述多个非依从任务中的一个非依从任务的一致性操作并且在完成时将所述任务发出到所述处理设备以处理；执行针对另一非依从任务的一致性操作，使得在这些一致性操作完成时所述非连贯处理设备能够处理所述另一任务。

本发明认识到，虽然在设备彼此一致并且能够在它们之间自由传递数据之前可能需要执行多个一致性操作，但为了非连贯设备执行特定任务，要使此任务安全执行可能只需要执行完整的一致性操作的子集。从而，不是执行所有一致性操作，本发明确定对于特定任务必要的一致性操作并且只执行这些一致性操作。当它们完成时，该任务可被发出到非连贯设备以便处理，同时并行地，后续任务所需的一致性操作可被执行。一旦这些一致性操作完成了，该后续任务就准备好被非连贯设备处理。

由于一般在任何设计良好的系统中，一致性操作花的时间将少于与之相关联的任务，所以针对后续任务的一致性操作将在先前任务执行之前完成，从而后续任务将在设备准备好执行它之前就准备好被发出来供执行。从而，由一致性操作引入到系统中的等待时间一般只是与针对第一任务的一致性操作相关联的等待时间。

应当注意，至少一些设备是异种设备，并且至少一些任务是针对特定设备的。这与具有同种核心的设备不同，在具有同种核心的设备的情况下任务可依据可用性和负载而被重引导至不同核心。异种设备是在其执行能力方面具有不同的属性或性能的设备。例如，具有专用图像操纵电路的GPU的执行性能将比CPU上的等效软件更高效且快得多。这个差异可能如此显著，以至于选择在较慢的设备上做工作以避免需要一致性工作，将不是不可行的。在其他设备中，功能在一个设备上可能是完全没有的，从而其将不能够执行某些功能。本发明关注了至少在一些情况下不能在设备之间移植任务的情形。

从而，对于本发明的实施例及其实现方式的操作的一个约束是设备是预先选择的，从而对其的选择不能被用作优化的另一维度。

在一些实施例中，非依从任务是独立于所有在处理之前要求执行一致性操作的任务的任务，所述方法包括在所述执行针对所述多个非依从任务中的所述一个非依从任务的一致性操作的步骤之后、在执行所述针对另一非依从任务的一致性操作的步骤之前的另一步骤：重评估依从于所述一个非依从任务的任何任务以确定所述任何任务是依从的还是非依从的。