[发明专利]并行处理系统中的资源分配

说明书

本发明描述了并行处理系统中的资源分配方法。所述方法包括接收为任务分配资源的请求，其中所述请求标识仅执行所述任务的下一个块所需的资源量，以及当资源可用时，为所述任务分配执行所述任务的所述下一个块所需的资源量。

背景技术

图形处理单元(GPU)包括高度并行的结构，其设计成并行地高效处理大量数据。GPU通常用于计算机图形(例如，在屏幕上渲染图像)，然而，GPU也可用于受益于其提供的并行性的其他操作。

在并行处理系统(例如，包括GPU和存储器的系统)中，当任务准备好被执行时，将所需资源(例如，寄存器和/或存储器)分配给该任务。当准备好被执行的任务量很大时将减少功能单元的空转。

下面描述的实施方案仅以举例的方式提供，而不构成对解决已知资源分配方法的任何或所有缺点的实现方式的限制。

发明内容

提供本发明内容是为了以简化的形式介绍下文在具体实施方式中进一步描述的一系列概念。本发明内容不旨在标识所要求保护的主题的关键特征或必要特征，也不旨在用于限制所要求保护的主题的范围。

本发明描述了并行处理系统中的资源分配方法。该方法包括接收为任务分配资源的请求，其中该请求标识仅执行任务的下一个块(chunk)所需的资源量，以及当资源可用时，为任务分配执行任务的下一个块所需的资源量。

第一方面提供了一种在并行处理系统中为任务分配资源的方法，该方法包括：接收为任务分配资源的请求，该请求标识仅执行任务的下一个块所需的资源量，并且其中任务被分区为多个块；确定执行任务的下一个块所需的资源量是否可用；响应于确定执行任务的下一个块所需的资源量不可用，暂停任务；以及响应于确定执行任务的下一个块所需的资源量可用，将资源分配给任务。

第二方面提供了一种在并行处理系统中为任务分配资源的方法，该方法包括：接收为任务分配资源的请求，该请求标识仅执行任务的下一个块所需的资源量和执行整个任务所需的资源量两者，并且其中任务被分区为多个块；确定执行整个任务所需的资源量是否已经被分配给任务；并且响应于确定执行整个任务所需的资源量尚未被分配给任务：确定执行整个任务所需的资源量是否可用；并且响应于确定执行整个任务所需的资源量可用，将资源分配给任务；并且响应于确定执行整个任务所需的资源量不可用：确定执行任务的下一个块所需的资源量是否可用；并且响应于确定执行任务的下一个块所需的资源量不可用，暂停任务；并且响应于确定执行任务的下一个块所需的资源量可用，将资源分配给任务。

第三方面提供了一种在并行处理系统中为任务分配资源的方法，该方法包括：接收为任务分配资源的请求，该请求标识仅执行任务的下一个块所需的资源量和执行整个任务所需的资源量两者，并且其中任务被分区为多个块；并且在第一操作模式中：确定执行整个任务所需的资源量是否已经被分配给任务；并且响应于确定执行整个任务所需的资源量尚未被分配给任务：确定执行整个任务所需的资源量是否可用；并且响应于确定执行整个任务所需的资源量可用，将资源分配给任务；并且响应于确定执行整个任务所需的资源量不可用：确定执行任务的下一个块所需的资源量是否可用；并且响应于确定执行任务的下一个块所需的资源量不可用，暂停任务；并且响应于确定执行任务的下一个块所需的资源量可用，将资源分配给任务；并且在第二操作模式中：确定执行整个任务所需的资源量是否已经被分配给任务；并且响应于确定执行整个任务所需的资源量已经被分配给任务，将对任务的资源分配减少为执行任务的下一个块所需的资源量；并且响应于确定执行整个任务所需的资源量尚未被分配给任务：确定执行任务的下一个块所需的资源量是否可用；并且响应于确定执行任务的下一个块所需的资源量不可用，暂停任务；并且响应于确定执行任务的下一个块所需的资源量可用，将资源分配给任务。

第四方面提供了一种将程序分区为多个块的方法，该方法包括：在编译器中，针对一个或多个阈值分析程序随时间推移的资源需求；以及将初始指令插入到程序中；以及在程序执行序列中，在资源需求首次超出阈值之前的位置，将指令插入到程序中。