[发明专利]计算图调度方法、装置、电子设备及可读存储介质

权利要求书

1.一种计算图调度方法，其特征在于，包括：

获取目标计算图；所述目标计算图包括多个算子节点；

基于所述算子节点间的依赖关系，对第一节点集合进行划分处理，得到多个计算层组；其中，每个所述计算层组包括至少两个第二节点集合，所述第一节点集合为所述目标计算图，或者为对所述目标计算图划分得到的节点集合；

分别生成各个所述第二节点集合对应的第一时长，并利用所述第一时长生成各个所述计算层组对应的第二时长；

若第二最小时长小于所述第一节点集合对应的第三时长，则将目标计算层组中的第二节点集合确定为新的第一节点集合；所述第二最小时长为所述第二时长中的最小值，所述目标计算层组为所述第二最小时长对应的计算层组；

若所述第二最小时长不小于所述第三时长，则判断其他节点集合是否生成了新的第一节点集合；

若没有任一其他节点集合生成了新的第一节点集合，则利用所述第一节点集合和所述其他节点集合构成所述目标计算图的调度结果。

2.根据权利要求1所述的计算图调度方法，其特征在于，所述分别生成各个所述第二节点集合对应的第一时长，包括：

确定所述第二节点集合中各个算子节点对应的计算设备；

获取所述计算设备对应的算力数据，并利用所述算力数据生成所述算子节点对应的第四时长；

利用所述第四时长得到所述第一时长。

3.根据权利要求1所述的计算图调度方法，其特征在于，所述基于所述算子节点间的依赖关系，对第一节点集合进行划分处理，得到多个计算层组，包括：

按照所述依赖关系，将所述第一节点集合进行基于依赖关系连续的算子节点划分处理，得到多个初始计算层组；

确定各个所述初始计算层组中各个算子节点对应的候选计算设备；

将所述候选计算设备依次确定为所述算子节点的计算设备，得到所述计算层组。

4.根据权利要求3所述的计算图调度方法，其特征在于，所述将所述候选计算设备依次确定为所述算子节点的计算设备，得到所述计算层组，包括：

若处于单一设备部署状态，且所述第一节点集合为所述目标计算图，则依次将一个候选计算设备确定为所有算子节点的计算设备，得到所述计算层组；

若处于单一设备部署状态，且所述第一节点集合不为所述目标计算图，则将所述第一节点集合的计算设备确定为所述初始计算层组中各个算子节点对应的计算设备。

5.根据权利要求3所述的计算图调度方法，其特征在于，所述将所述候选计算设备依次确定为所述算子节点的计算设备，得到所述计算层组，包括：

若处于多设备部署状态，则将各个所述候选计算设备依次确定为各个所述算子节点的计算设备，得到所述计算层组。

6.根据权利要求3所述的计算图调度方法，其特征在于，所述将所述候选计算设备依次确定为所述算子节点的计算设备，得到所述计算层组，包括：

若处于多设备部署状态，则判断所述初始计算层组的所述算子节点中是否存在待拆分节点；

若存在，则将所述待拆分节点拆分为多个子节点，并确定各个所述子节点和未拆分算子节点对应的计算设备。

7.根据权利要求1所述的计算图调度方法，其特征在于，所述利用所述第一节点集合和所述其他节点集合构成所述目标计算图的调度结果，包括：

基于所述依赖关系，对所述第一节点集合和所述其他节点集合进行排序，得到所述调度结果。

8.根据权利要求7所述的计算图调度方法，其特征在于，还包括：

确定所述调度结果中各个节点集合对应的资源利用率；

按照所述依赖关系，将所述调度结果划分为至少两个流水阶段；其中，每个流水阶段中包括至少一个在依赖关系上连续的节点集合，各个流水阶段分别对应的资源利用率最大值相加得到的和值不大于1；

并行执行各个所述流水阶段；各个所述流水阶段内的节点集合串行执行。