[发明专利]网络节点处理方法、装置、存储介质及电子设备

说明书

本申请实施例公开了一种网络节点处理方法、装置、存储介质及电子设备，方法包括：触发采用神经网络模型进行推理计算，确定至少一个网络节点中目标网络节点对应的第二计算处理单元；当第一计算处理单元与第二计算处理单元不同时，将目标网络节点从第一链表中删除并修改第一链表中目标网络节点的上一个网络节点以及下一个网络节点的连接关系，将目标网络节点分配至第二计算处理单元；获取目标网络节点的下一个网络节点，将下一个网络节点确定为目标网络节点，并执行确定至少一个网络节点中目标网络节点对应的第二计算处理单元；当确定不存在下一个网络节点时，生成推理计算结果。因此，采用本申请实施例，可以提高采用神经网络模型推理计算的效率。

技术领域

本申请涉及计算机技术领域，尤其涉及一种网络节点处理方法、装置、存储介质及电子设备。

背景技术

当今智能手机平台上有很多适合移动端的神经网络模型，通常需要使用合适的数据结构来表示神经网络的各网络节点。例如小米的MACE，腾讯的NCNN,阿里巴巴的MNN等，它们都是用容器来表示神经网络的各网络节点。

当触发采用神经网络模型推理计算时，需要根据手机当前各计算处理单元(如CPU,GPU,DSP)的空闲状态，动态地决定各网络节点运行在哪个计算处理单元上，此时，就需要对神经网络模型的网络结构进行修改，也就是需要将容器中的网络节点删除或者向容器中添加网络节点。但每删除或添加一个网络节点到容器，都需要把容器中位于它之后的所有网络节点进行移位操作，尤其当网络节点数量较多时，每进行一次网络结构调整，都需要耗费较长的时间，从而降低了采用神经网络模型推理计算的效率。

发明内容

本申请实施例提供了一种网络节点处理方法、装置、存储介质及电子设备，只需要修改该网络节点的上一网络节点以及下一网络节点的连接关系，而不需要频繁移位操作，节省了网络结构调整时间，从而可以提高采用神经网络模型推理计算的效率。所述技术方案如下：

第一方面，本申请实施例提供了一种网络节点处理方法，所述方法包括：

触发采用包括至少一个网络节点的神经网络模型进行推理计算，确定所述至少一个网络节点中目标网络节点对应的第二计算处理单元，所述至少一个网络节点采用第一链表的形式预存在第一计算处理单元，所述目标网络节点运行在所述第二计算处理单元；

当所述第一计算处理单元与所述第二计算处理单元不同时，将所述目标网络节点从所述第一链表中删除并修改所述第一链表中所述目标网络节点的上一个网络节点以及下一个网络节点的连接关系，将所述目标网络节点分配至所述第二计算处理单元；

获取所述目标网络节点的下一个网络节点，将所述下一个网络节点确定为目标网络节点，并执行所述确定所述至少一个网络节点中目标网络节点对应的第二计算处理单元的步骤；

当确定不存在下一个网络节点时，生成推理计算结果。

第二方面，本申请实施例提供了一种网络节点处理装置，所述装置包括：

节点确定模块，用于触发采用包括至少一个网络节点的神经网络模型进行推理计算，确定所述至少一个网络节点中目标网络节点对应的第二计算处理单元，所述至少一个网络节点采用第一链表的形式预存在第一计算处理单元，所述目标网络节点运行在所述第二计算处理单元；

节点分配模块，用于当所述第一计算处理单元与所述第二计算处理单元不同时，将所述目标网络节点从所述第一链表中删除并修改所述第一链表中所述目标网络节点的上一个网络节点以及下一个网络节点的连接关系，将所述目标网络节点分配至所述第二计算处理单元；

节点循环模块，用于获取所述目标网络节点的下一个网络节点，将所述下一个网络节点确定为目标网络节点，并执行所述确定所述至少一个网络节点中目标网络节点对应的第二计算处理单元的步骤；

结果生成模块，用于当确定不存在下一个网络节点时，生成推理计算结果。