[发明专利]数据计算流图的GPU处理方法及装置

说明书

本发明提供了一种数据计算流图的GPU处理方法及装置，该方法包括：将接收的输入数据存储至为计算流图中的源节点分配的第一显存块；获取该源节点所指向的后继节点的表达式，从该第一显存块读取输入数据，以及根据为计算流图中的源节点分配的显存块为该后继节点分配第二显存块；在已获取到该后继节点的表达式所有需要输入的数据的情况下，将读取的输入数据输入至该表达式进行计算，得到该后继节点的结果，并将该后继节点的结果存储至第二显存块；从第二显存块读取该后继节点的结果，并根据读取的后继节点的结果得到输入数据按计算流图处理的结果并输出处理结果。通过上述方案能够避免在GPU和外部设备之间来回拷贝数据，从而提高GPU处理数据的速度。

技术领域

本发明涉及数据处理技术领域，尤其涉及一种数据计算流图的GPU(GraphicsProcessing Unit，图形处理器)处理方法及装置。

背景技术

在现实生活中，广泛存在着序列数据(例如，时间序列，可以是对某个物理量进行等间隔观测得到的一系列数值)，涵盖了金融、医疗、生物和化学等诸多领域。序列数据的处理过程常常涉及繁琐复杂的计算流程，这些计算流程可以具有很好的数据并行性，即，可以同时对很多数据进行同样的运算。

序列数据的处理过程可以用计算流图表示。计算流图能够清晰地表达繁琐复杂的序列数据的计算流程。在计算流图中，可以用节点表示数据，用不同节点之间的边描述一个操作，一个操作可以由一条或者多条边共同描述，用边的方向指示序列数据流动的方向，其中，序列数据处理的每个流程表示一个操作。

当需要利用GPU对计算流图进行处理的时候，需要从CPU(Central ProcessingUnit，中央处理器)获取数据，在GPU中按照一定的策略计算出前一个节点的结果，并保存起来用于计算下一个节点的结果，依次进行，最后得到结果节点的值，传输至CPU。在计算节点的结果的过程中，需要在GPU和CPU两端来回拷贝数据，而拷贝数据的过程很消耗时间，进而会降低在GPU上实现高度并行处理序列数据的速度。

发明内容

有鉴于此，本发明提供了一种数据计算流图的GPU处理方法及装置，以提高GPU处理数据的速度。

根据本发明实施例的一个方面，提供的数据计算流图的GPU处理方法，包括：

接收输入数据，并将所述输入数据存储至为计算流图中的第一源节点分配的第一显存块；

获取所述第一源节点所指向的第一后继节点的第一表达式，从所述第一显存块读取所述输入数据，以及根据为所述计算流图中的源节点分配的显存块为所述第一后继节点分配第二显存块；

在已获取到所述第一表达式所有需要输入的数据的情况下，将读取的所述输入数据输入至所述第一表达式进行计算，得到所述第一后继节点的结果，并将所述第一后继节点的结果存储至所述第二显存块；

从所述第二显存块读取所述第一后继节点的结果，并根据读取的所述第一后继节点的结果得到所述输入数据按所述计算流图处理的结果，并输出所述输入数据的处理结果。

根据本发明实施例的另一个方面，提供的一种计算机可读存储介质，其上存储有计算机程序，该程序被GPU执行时实现上述实施例所述方法的步骤。

根据本发明实施例的又一个方面，提供的一种计算机设备，包括存储器、GPU及存储在存储器上并可在GPU上运行的计算机程序，所述GPU执行所述程序时实现上述实施例所述方法的步骤。

本发明的数据计算流图的GPU处理方法、计算机可读存储介质及计算机设备，通过为计算流图中的源节点分配显存块，可以将从外部设备拷贝过来的输入数据暂存在GPU一端；通过为源节点的后继节点分配显存块，可以将该后继节点的结果暂存在该GPU一端；在需要计算后继节点的结果时，才为该后继节点分配显存块，且是根据源节点的显存块给后继节点分配显存块，能够尽可能地节省GPU的显存，便于处理复杂的计算流图。