[发明专利]优化神经网络模型中原始维度算子的装置和方法

权利要求书

1.一种优化神经网络模型中原始维度算子的方法，包括：

遍历所述神经网络模型，以：

识别所述神经网络模型的关键节点；

在所述关键节点处置入成对维度算子；

结合所述成对维度算子其中之一与所述原始维度算子；以及基于结合后的所述神经网络模型进行推理。

2.根据权利要求1所述的方法，其中所述关键节点为输入节点及输出节点其中之一；如所述关键节点为所述输入节点，所述置入步骤在所述输入节点后置入成对维度算子；如所述关键节点为输出节点，所述置入步骤在所述输出节点前置入成对维度算子。

3.根据权利要求1所述的方法，其中所述关键节点为合并节点及分支节点其中之一，所述置入步骤在所述关键节点前后分别置入成对维度算子。

4.根据权利要求2或3所述的方法，其中所述神经网络模型包括中间算子群，所述中间算子群介于所述成对维度算子与所述原始维度算子间，所述方法还包括：

判断所述中间算子群是否对维度敏感；以及

如否，判断所述成对维度算子其中之一与所述原始维度算子是否为成对维度算子：

如是，所述结合步骤自所述神经网络模型中移除所述成对维度算子其中之一与所述原始维度算子；以及

如否，所述结合步骤合并所述成对维度算子其中之一与所述原始维度算子，以形成合并维度算子。

5.根据权利要求4所述的方法，还包括：

将所述成对维度算子其中之一与所述原始维度算子的其中之一替换成所述合并维度算子；以及

移除所述成对维度算子其中之一与所述原始维度算子中的另一个。

6.根据权利要求4所述的方法，其中所述中间算子群包括至少一个中间算子，所述判断步骤包括：

遍历所有中间算子，判断所述中间算子是否为对特定维度计算的算子；以及

如否，互换所述成对维度算子其中之一与所述中间算子的顺序。

7.根据权利要求6所述的方法，其中如所述中间算子为对特定维度计算的算子，则根据所述特定维度转换所述成对维度算子其中之一的维度。

8.根据权利要求1所述的方法，其中所述维度算子为转置算子及变形算子。

9.一种优化神经网络模型中原始维度算子的处理装置，包括：

识别模块，用以识别所述神经网络模型的关键节点；

置入模块，用以在所述关键节点处置入成对维度算子；以及

结合模块，用以结合所述成对维度算子其中之一与所述原始维度算子。

10.根据权利要求9所述的处理装置，其中所述关键节点为输入节点及输出节点其中之一；如所述关键节点为所述输入节点，所述置入模块在所述输入节点后置入成对维度算子；如所述关键节点为输出节点，所述置入模块在所述输出节点前置入成对维度算子。

11.根据权利要求9所述的处理装置，其中所述关键节点为合并节点及分支节点其中之一，所述置入模块在所述关键节点前后分别置入成对维度算子。

12.根据权利要求10或11所述的处理装置，其中所述神经网络模型包括中间算子群，所述中间算子群介于所述成对维度算子与所述原始维度算子间，所述处理装置还包括：

判断模块，用以：

判断所述中间算子群是否对维度敏感；以及

如否，判断所述成对维度算子其中之一与所述原始维度算子是否为成对维度算子；

如是，所述结合模块自所述神经网络模型中移除所述成对维度算子其中之一与所述原始维度算子；以及

如否，所述结合模块合并所述成对维度算子其中之一与所述原始维度算子，以形成合并维度算子。