[发明专利]神经网络模型的架构融合方法及相关装置

权利要求书

1.一种神经网络模型的架构融合方法，其特征在于，所述方法包括：

提取第一神经网络模型的运算流程，所述运算流程包括多个算子对应的至少两个处理单元信息，所述至少两个处理单元信息包括中央处理单元、图形处理单元和图像处理单元中的至少两个；

根据所述运算流程生成所述第一神经网络模型的计算图，所述计算图为有向无环图，所述有向无环图包括多个节点，所述多个节点与所述多个算子一一对应；

根据所述多个算子对应的至少两个处理单元信息确定所述有向无环图中的N个可融合节点和M个非融合节点，所述可融合节点对应的算子为图像处理单元执行的算子，所述N和所述M均为大于1的整数；

对所述N个可融合节点进行融合段划分，得到融合段划分后的有向无环图，所述融合段划分后的有向无环图包括P个融合段，所述P为大于或等于1且小于或等于所述N的整数；

获取所述M个非融合节点在所述有向无环图中的Q条路径和M个节点层，所述Q大于所述M，每个非融合节点对应至少一条路径和一个节点层；

根据所述Q条路径和所述M个节点层对所述融合段划分后的有向无环图进行简化，得到融合后的有向无环图；

根据所述融合后的有向无环图生成第二神经网络模型。

2.根据权利要求1所述的方法，其特征在于，所述第一神经网络模型包括多层结构，所述运算流程包括所述多层结构的多个算子和所述多个算子之间的连接关系，每层结构对应至少一个算子，所述根据所述运算流程生成所述第一神经网络模型的计算图，包括：

从所述多个算子中选取目标算子，所述目标算子为所述有向无环图的起始节点；

获取所述目标算子的下层算子和所述下层算子的连接关系；

根据所述下层算子的连接关系将所述下层算子对应的下层节点连接，将所述下层节点与所述起始节点连接，得到所述有向无环图。

3.根据权利要求2所述的方法，其特征在于，所述对所述N个可融合节点进行融合段划分，包括：

获取所述N个可融合节点之间的节点连接关系；

若可融合节点m与可融合节点n的节点连接关系为同一个节点层的相邻节点或不同节点层的父子节点，则将所述可融合节点m和所述可融合节点n划分至同一个融合段，所述可融合节点m和所述可融合节点n均为所述N个可融合节点中的任意一个。

4.根据权利要求3所述的方法，其特征在于，所述根据所述Q条路径和所述M个节点层对所述融合段划分后的有向无环图进行简化，包括：

获取所述M个非融合节点之间的节点位置关系；

若非融合节点p对应的算子与非融合节点q对应的算子相同，则确定所述非融合节点p与所述非融合节点q的节点位置关系，所述非融合节点p和所述非融合节点q均为所述M个非融合节点中的任意一个；

若所述非融合节点p与所述非融合节点q的所述节点位置关系为位于不同节点层且处于不同的路径，则将指向所述非融合节点p的边指向所述非融合节点q，增加所述非融合节点q的一条边指向所述非融合节点p的边指向的节点，删除所述非融合节点p；

或者，若所述非融合节点p与所述非融合节点q的所述节点位置关系为位于不同节点层且处于不同的路径，则将指向所述非融合节点q的边指向所述非融合节点p，增加所述非融合节点p的一条边指向所述非融合节点q的边指向的节点，删除所述非融合节点q。