[发明专利]计算图的处理方法、装置和系统

权利要求书

1.一种计算图的处理方法，其特征在于，包括：

获取计算图对应的融合动作集合，其中，所述融合动作集合包括至少一个融合动作，任意一个所述融合动作用于表示所述计算图中允许被融合的指令构成的指令对；

查找每个所述融合动作对应的融合空间，得到所述融合动作对应的融合方案，其中，所述融合空间包括允许与所述融合动作融合的其他融合动作；

从所述融合方案中选择待选择的融合方案，并根据所述待选择的融合方案，确定融合计算图。

2.根据权利要求1所述的方法，其特征在于，所述计算图为张量计算图，获取计算图对应的融合动作集合，包括：

将所述张量计算图中的指令按照数据依赖关系进行拓扑排序；

从所述指令中的根指令开始逆序遍历每个指令，并判断所述指令是否允许被融合；

如果所述指令允许被融合，则将所述指令对应的融合动作加入所述融合动作集合。

3.根据权利要求2所述的方法，其特征在于，判断所述指令是否允许被融合，包括：

获取所述指令在所述张量计算图中对应的输入指令，其中，所述指令依赖所述输入指令输出的结果；

判断所述指令与对应的所述输入指令是否允许融合；

如果所述指令与对应的所述输入指令允许融合，则将所述指令与对应的输入指令构成一个融合动作，其中，所述指令对应的融合动作包括指令和对应的所述输入指令构成的指令对。

4.根据权利要求3所述的方法，其特征在于，判断所述指令与对应的所述输入指令是否允许融合，包括：

如果所述指令与对应的输入指令满足如下任意一个条件，确定所述指令与对应的所述输入指令允许融合：

所述指令与对应的所述输入指令的指令类型兼容；

所述指令与对应的所述输入指令之间的拓扑结构允许进行融合。

5.根据权利要求1所述的方法，其特征在于，查找每个所述融合动作对应的融合空间，得到所述融合动作对应的融合方案，包括：

获取每组融合动作对应的收益信息，其中，所述收益信息用于表示所述融合动作所对应的代码的代码性能；

根据所述融合动作，确定所述融合动作对应的衍生融合动作集合，其中，所述衍生融合动作集合用于表示包含所述融合动作中的指令的其他融合动作。

6.根据权利要求5所述的方法，其特征在于，在获取每组融合动作对应的收益信息之后，所述方法还包括：

根据所述融合动作对应的收益信息更新评估缓存，其中，所述评估缓存用于所有融合动作的收益信息。

7.根据权利要求5所述的方法，其特征在于，获取每组融合动作对应的收益信息，包括：

执行与所述融合动作对应的代码，并确定所述代码的代码性能为所述融合动作对应的收益信息；或

通过预设的代价模型预测所述融合动作对应的收益信息。

8.根据权利要求1所述的方法，其特征在于，所述待选择的融合方案为最优融合方案，从所述融合方案中选择待选择的融合方案，包括：

确定用于选择所述待选择的融合方案的目标函数，其中，所述目标函数根据每个融合动作的收益信息构建；

获取约束条件集合，其中，所述约束条件用于指融合动作之间需要满足的约束条件；

根据所述约束条件对所述目标函数进行求解，得到所述待选择的融合方案。

9.根据权利要求1所述的方法，其特征在于，所述计算图为张量计算图，根据所述待选择的融合方案，确定融合计算图，包括：

根据所述融合方案中的融合动作对所述张量计算图进行修改，得到所述融合计算图。