[发明专利]模型运行方法、装置、电子设备及存储介质

权利要求书

1.一种模型运行方法，其特征在于，所述方法包括：

在运行神经网络模型时，获取所述神经网络模型的目标算子模块中深度卷积模块处理后的第一结果，所述目标算子模块由顺序连接的所述深度卷积模块和逐点卷积模块融合后得到；

将所述第一结果缓存至分配的缓存空间内；

根据所述目标算子模块中的所述逐点卷积模块，对缓存的所述第一结果进行处理，得到第二结果；

根据所述第二结果，确定所述神经网络模型的输出结果。

2.根据权利要求1所述的方法，其特征在于，所述获取所述神经网络模型的目标算子模块中深度卷积模块处理后的第一结果，包括：

基于所述神经网络模型中目标算子模块的输入数据，确定处于滑动窗口内的目标数据；

根据所述目标算子模块中的所述深度卷积模块，对所述目标数据进行处理，得到第一结果。

3.根据权利要求2所述的方法，其特征在于，在所述基于所述神经网络模型中目标算子模块的输入数据，确定处于滑动窗口内的目标数据之前，所述方法还包括：

确定分配的缓存空间的缓存容量；

根据所述缓存容量，确定滑动窗口的尺度。

4.根据权利要求2所述的方法，其特征在于，所述根据所述第二结果，确定所述神经网络模型的输出结果，包括：

根据所述滑动窗口遍历所述输入数据，重复执行所述基于所述神经网络模型中目标算子模块的输入数据，确定处于滑动窗口内的目标数据的步骤，至所述根据所述目标算子模块中的所述逐点卷积模块，对缓存的所述第一结果进行处理的步骤，得到多个所述第二结果；

将多个所述第二结果作为目标算子模块的输出数据，并基于所述输出数据，确定所述神经网络模型的输出结果。

5.根据权利要求1-4任一项所述的方法，其特征在于，在所述在运行神经网络模型时，获取所述神经网络模型的目标算子模块中深度卷积模块处理后的第一结果之前，所述方法还包括：

确定待优化的网络模型，所述待优化的网络模型至少包括顺序连接的深度卷积模块和逐点卷积模块；

将所述深度卷积模块和逐点卷积模块进行融合，得到融合后的目标算子模块；

根据所述目标算子模块对所述待优化的网络模型进行优化，得到所述神经网络模型。

6.根据权利要求5所述的方法，其特征在于，所述确定待优化的网络模型，包括：

遍历网络模型中的网络结构，判断是否存在顺序连接的深度卷积模块和逐点卷积模块；

当存在所述顺序连接的深度卷积模块和逐点卷积模块时，将所述网络模型作为所述待优化的网络模型。

7.根据权利要求1-4任一项所述的方法，其特征在于，所述将所述第一结果缓存至分配的缓存空间内，包括：

将所述第一结果以批量数、通道数、高度和宽度(NCHW)的布局方式缓存至分配的缓存空间内。

8.一种模型运行装置，其特征在于，所述装置包括：

第一获取模块，用于在运行神经网络模型时，获取所述神经网络模型的目标算子模块中深度卷积模块处理后的第一结果，所述目标算子模块由顺序连接的所述深度卷积模块和逐点卷积模块融合后得到；

结果缓存模块，用于将所述第一结果缓存至分配的缓存空间内；

第二获取模块，用于根据所述目标算子模块中的所述逐点卷积模块，对缓存的所述第一结果进行处理，得到第二结果；

结果确定模块，用于根据所述第二结果，确定所述神经网络模型的输出结果。

9.一种电子设备，其特征在于，包括：

一个或多个处理器；

存储器；

一个或多个应用程序，其中所述一个或多个应用程序被存储在所述存储器中并被配置为由所述一个或多个处理器执行，所述一个或多个应用程序配置用于执行如权利要求1-7任一项所述的方法。

10.一种计算机可读取存储介质，其特征在于，所述计算机可读取存储介质中存储有程序代码，所述程序代码可被处理器调用执行如权利要求1-7任一项所述的方法。