[发明专利]神经网络模型的测试方法、装置和电子设备

权利要求书

1.一种神经网络模型的测试方法，包括：

获取待测试神经网络模型的结构信息；

基于预设推理引擎所对应的运算操作指令集以及所述结构信息，确定运行所述待测试神经网络模型所需的运算操作的信息；

根据所述运算操作的信息确定所述待测试神经网络模型的前向传播耗时。

2.根据权利要求1所述的方法，其特征在于，所述获取待测试神经网络模型的结构信息，包括：

将所述待测试神经网络模型拆分成多个网络层；

由所述多个网络层确定所述结构信息。

3.根据权利要求1所述的方法，其特征在于，所述结构信息包括待测试神经网络模型的多个网络层，以及

所述基于预设推理引擎所对应的运算操作指令集以及所述结构信息，确定运行所述待测试神经网络模型所需的运算操作的信息，包括：

在所述预设推理引擎中，确定实现所述网络层所需的算子；

确定所述运算操作指令集下使用所述算子实现所述网络层所需的运算操作；

根据多个网络层分别所需的运算操作，确定运行待测试神经网络模型所需的运算操作的信息。

4.根据权利要求3所述的方法，其特征在于，所述确定所述运算操作指令集下使用所述算子实现所述网络层所需的运算操作，包括：

获取输入到所述待测试神经网络模型的网络层的输入特征的维度、输出特征的维度以及实现所述网络层所需的算子的算子特征参数，所述输入特征的维度、输出特征的维度与输入到所述神经网络模型的待处理数据的数据特征的维度正相关；

基于输入特征的维度、输出特征的维度、算子特征参数，确定实现所述网络层所需的运算操作。

5.根据权利要求3所述的方法，其特征在于，所述确定所述运算操作指令集下使用所述算子实现上述网络层所需的运算操作，包括：

根据预设统计网络层的运算量的统计公式，统计实现所述网络层所需的算子的运算操作。

6.根据权利要求1所述的方法，其特征在于，所述待测试神经网络模型的数量包括至少两个，以及

所述方法还包括：

从所述至少两个待测试神经网络模型中确定出前向传播所需的运算操作的信息满足预设条件的待测试神经网络为目标神经网络。

7.根据权利要求6所述的方法，其特征在于，所述预设条件包括：

运行所述待测试神经网络所需的运算量小于运行预设基准神经网络模型所需的运算量。

8.一种神经网络模型的测试装置，其特征在于，包括：

获取单元，用于获取待测试神经网络模型的结构信息；

第一确定单元，用于基于预设推理引擎所对应的运算操作指令集以及所述结构信息，确定运行所述待测试神经网络模型所需的运算操作的信息；

第二确定单元，用于根据所述运算操作的信息确定所述神经网络模型的前向传播耗时。

9.一种电子设备，其特征在于，包括：

一个或多个处理器；

存储装置，用于存储一个或多个程序，

当所述一个或多个程序被所述一个或多个处理器执行，使得所述一个或多个处理器实现如权利要求1-7中任一所述的方法。

10.一种计算机可读介质，其上存储有计算机程序，其特征在于，该程序被处理器执行时实现如权利要求1-7中任一所述的方法。