[发明专利]用于确定专用处理资源的资源量的方法、设备和计算机程序产品

说明书

本公开的实施例涉及用于确定专用处理资源的资源量的方法、设备和计算机程序产品。该方法包括获取用于深度学习处理的神经网络的结构表示，该结构表示与可用于该深度学习处理的该专用处理资源相关联；以及基于该结构表示，确定该深度学习处理所需的该专用处理资源的该资源量。以此方式，可以更好地估计深度学习处理所需的专用处理资源的资源量，以提高专用处理资源调度的性能和资源利用率。

技术领域

本公开的实施例总体涉及资源量确定，具体涉及确定专用处理资源的资源量的方法、设备和计算机程序产品。

背景技术

近年来，高性能计算、机器学习、深度学习和人工智能等新兴技术快速发展。在当前的数据中心或云中，除了为这些新兴技术的工作负载提供中央处理单元(CPU)、存储装置等资源，还提供了诸如图形处理单元(GPU)、现场可编程门阵列(FPGA)等的专用处理资源，以满足这些新兴技术对于专用处理的需求。然而，为了更好地服务于这些新兴技术，还需要更好地估计执行这些新兴技术时所需的专用处理资源的资源量，从而改进用于调度专用处理资源的技术。

发明内容

本公开的实施例提供了用于确定专用处理资源的资源量的方法、设备和计算机程序产品。

在本公开的第一方面，提供了一种用于确定专用处理资源的资源量的方法。该方法包括：获取用于深度学习处理的神经网络的结构表示，该结构表示指示该神经网络中的与专用处理资源相关联的层属性；以及基于该结构表示，确定该深度学习处理所需的该专用处理资源的该资源量。

在本公开的第二方面，提供了一种用于确定专用处理资源的资源量的设备。该设备包括至少一个处理单元和至少一个存储器。至少一个存储器被耦合到至少一个处理单元并且存储用于由至少一个处理单元执行的指令。该指令当由至少一个处理单元执行时使得设备执行动作，该动作包括：获取用于深度学习处理的神经网络的结构表示，该结构表示指示该神经网络中的与专用处理资源相关联的层属性；以及基于该结构表示，确定该深度学习处理所需的该专用处理资源的该资源量。

在本公开的第三方面，提供了一种计算机程序产品。计算机程序产品被有形地存储在非瞬态计算机可读介质上并且包括机器可执行指令，机器可执行指令在被执行时使机器实现根据本公开的第一方面所描述的方法的任意步骤。

提供发明内容部分是为了以简化的形式来介绍对概念的选择，它们在下文的具体实施方式中将被进一步描述。发明内容部分无意标识本公开的关键特征或必要特征，也无意限制本公开的范围。

附图说明

通过结合附图对本公开示例性实施例进行更详细的描述，本公开的上述以及其它目的、特征和优势将变得更加明显，其中，在本公开示例性实施例中，相同的参考标号通常代表相同部件。

图1示出了根据本公开的实施例的专用处理资源调度系统的示意图；

图2示出了根据本公开的实施例的用于确定专用处理资源的资源量的方法的流程图；

图3示出了根据本公开的实施例的用于深度学习处理的神经网络的特定结构表示的示例的示意图；

图4示出了根据本公开的实施例的用于深度学习处理的神经网络的规范化结构表示的示例的示意图；以及

图5示出了可以用来实施本公开内容的实施例的示例设备的示意性框图。

在各个附图中，相同或对应的标号表示相同或对应的部分。

具体实施方式

下面将参照附图更详细地描述本公开的优选实施例。虽然附图中显示了本公开的优选实施例，然而应该理解，可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反，提供这些实施例是为了使本公开更加透彻和完整，并且能够将本公开的范围完整地传达给本领域的技术人员。