[发明专利]神经网络模型的编译方法、装置、电子设备和存储介质

权利要求书

1.一种神经网络模型的编译方法，包括：

获取待编译神经网络模型；

基于所述待编译神经网络模型，确定所述待编译神经网络模型对应的初始计算图，所述初始计算图包括至少一个第一计算子图，每个所述第一计算子图包括至少一个算子节点及各所述算子节点之间的连接关系；

确定各所述第一计算子图中包括预设算子节点的第二计算子图，根据所述第二计算子图的输入张量将所述第二计算子图切分为第一数量的目标计算子图；

根据预设依赖规则，建立所述第一数量的所述目标计算子图之间的依赖关系，获得所述第二计算子图对应的第一依赖图，所述依赖关系用于表征各所述目标计算子图之间的计算顺序；

基于各所述第二计算子图分别对应的所述第一依赖图，生成所述待编译神经网络模型对应的目标指令序列。

2.根据权利要求1所述的方法，其中，所述根据预设依赖规则，建立所述第一数量的所述目标计算子图之间的依赖关系，获得所述第二计算子图对应的第一依赖图，包括：

基于预设规则，确定各所述目标计算子图分别对应的计算优先等级；

根据各所述目标计算子图的所述计算优先等级，建立任意相邻的两个所述目标计算子图中对应相同的算子节点之间的第一依赖边，所述第一依赖边从该两个所述目标计算子图中计算优先等级较高的第一目标计算子图中的算子节点指向计算优先等级较低的第二目标计算子图中的算子节点；

针对任一所述目标计算子图，根据所述目标计算子图中各算子节点之间的预设计算逻辑，建立所述目标计算子图中各算子节点之间的第二依赖边；

基于各所述目标计算子图、任意相邻的两个所述目标计算子图中对应相同的算子节点之间的所述第一依赖边、及各所述目标计算子图中各算子节点之间的所述第二依赖边，确定所述第一依赖图。

3.根据权利要求2所述的方法，其中，所述基于各所述目标计算子图、任意相邻的两个所述目标计算子图中对应相同的算子节点之间的所述第一依赖边、及各所述目标计算子图中各算子节点之间的所述第二依赖边，确定所述第一依赖图，包括：

根据预设权重规则，确定各所述目标计算子图之间的各所述第一依赖边分别对应的第一权重、以及各所述目标计算子图的内部各所述第二依赖边分别对应的第二权重；

基于各所述第一依赖边分别对应的所述第一权重、及各所述第二依赖边分别对应的所述第二权重，确定各所述算子节点的节点权重，所述节点权重用于表征其对应的算子节点的计算优先等级；

基于各所述目标计算子图、各所述第一依赖边、各所述第一依赖边分别对应的所述第一权重、各所述第二依赖边、各所述第二依赖边分别对应的所述第二权重、及各所述节点权重，确定所述第一依赖图。

4.根据权利要求3所述的方法，其中，所述基于各所述第二计算子图分别对应的所述第一依赖图，生成所述待编译神经网络模型对应的目标指令序列，包括：

针对每个所述第二计算子图，基于该第二计算子图对应的所述第一依赖图，确定所述第二计算子图对应的调度滑动窗口，所述调度滑动窗口用于容纳第二数量的所述目标计算子图；

基于该第二计算子图对应的所述第一依赖图和所述调度滑动窗口，生成该第二计算子图对应的第一指令序列；

基于各所述第二计算子图分别对应的第一指令序列，确定所述目标指令序列。

5.根据权利要求4所述的方法，其中，在所述基于所述待编译神经网络模型，确定所述待编译神经网络模型对应的初始计算图之后，还包括：

针对各所述第一计算子图中除各所述第二计算子图之外的第三计算子图，基于各所述第三计算子图生成各所述第三计算子图分别对应的第二指令序列；

所述基于各所述第二计算子图分别对应的第一指令序列，确定所述目标指令序列，包括：

基于各所述第二计算子图分别对应的所述第一指令序列、及各所述第三计算子图分别对应的所述第二指令序列，确定所述目标指令序列。

6.根据权利要求1所述的方法，其中，所述基于所述待编译神经网络模型，确定所述待编译神经网络模型对应的初始计算图，包括：

对所述待编译神经网络模型进行解析，获得解析结果；

根据所述解析结果，构建所述待编译神经网络模型对应的所述初始计算图。