[发明专利]多输出节点的图匹配方法、装置、存储介质以及电子设备

说明书

本申请公开了一种多输出节点的图匹配方法装置、存储介质以及电子设备，该方法包括：指定待处理图结构中多个输出节点中的任一节点为目标输出节点；确定待处理图结构中包含目标输出节点的第一图结构；利用目标参考节点替换第一图结构中除输入节点外的其余节点，以生成第二图结构；基于第二图结构，更新待处理图结构；判断多个输出节点是否均被指定；如否，执行上述指定、确定、替换、更新和判断步骤，直至多个输出节点均被指定，以得到待处理图结构的图匹配结果。采用本申请实施例，可以将多输出节点的图结构中的多个节点替换成一个节点，从而简化网络结构，提升运算效率。

技术领域

本申请涉及人工智能芯片技术领域，尤其涉及一种多输出节点的图匹配方法、装置、存储介质以及电子设备。

背景技术

在众多深度学习框架中(如Tensorflow、Theano、Keras等)，针对计算图有很多图优化的操作，同时对于GPU也有一些特殊的图优化。通过该优化，可以加速网络运算的性能。其中，最核心的图优化之一叫做图匹配机制，图匹配机制的作用为根据现有的特定网络结构，将此结构替换成新的结构或者在此基础上做延伸，具体而言，即是将现有的特定网络结构中的多个节点(也可称为算子(Operators，Op))替换成一个新的节点，从而提升网络结构的运算效率。

在目前的深度学习框架中，图匹配机制所针对的网络结构必须是以单个节点作为根节点的网络结构，但是随着网络的发展，网络的输出大都为多个输出节点，因而亟须一种针对多输出节点的匹配机制。

发明内容

本申请实施例提供了一种多输出节点的图匹配方法，可以对含有多个输出节点的图结构进行匹配，将多输出节点图结构中的多个节点替换成一个节点，从而简化网络结构，提升网络结构运算效率。

第一方面，本申请提供了一种多输出节点的图匹配方法，该方法包括：指定待处理图结构中多个输出节点中的任一节点为目标输出节点；确定待处理图结构中包含目标输出节点的第一图结构；利用目标参考节点替换第一图结构中除输入节点外的其余节点，以生成第二图结构；基于第二图结构，更新待处理图结构；判断多个输出节点是否均被指定；如否，执行上述指定、确定、替换、更新和判断步骤，直至多个输出节点均被指定，以得到待处理图结构的图匹配结果。

可以看出，在本申请实施方式中，通过上述指定、确定、替换、更新和判断步骤，可以从该待处理图结构划分为出只包含一个输出节点的第一图结构，从而将包含多个输出节点的待处理图结构的图匹配转换成单个输出节点的图匹配；对该第一图结构进行图匹配生成只包含一个神经网络运算节点的第二图结构，该一个神经网络运算节点即为目标参考节点，该一个目标参考节点的功能与第一图结构中除输入节点外的其余节点组合形成的功能相同；因而本申请实施例中的方法有效地简化了待处理图结构的网络结构，进而后续采用图匹配结果进行运算时，可以有效提升运算效率；同时，通过设置图匹配过程终止条件，即判断多个输出节点是否均被指定，来保证上述待处理图结构匹配完毕，从而得到正确的图匹配结果，进而确保采用上述图匹配结果进行运算时高效性和正确性。

在一种可行的实施方式中，上述确定步骤包括：从目标输出节点开始，根据数据流向进行逆向搜索，直到搜索至输入节点，将搜索出的节点与目标输出节点构成的图结构作为第一图结构。

可以看出，在本申请实施方式中，将待处理图结构划分出包含目标输出节点的第一图结构，由于该第一图结构只包含一个输出节点，从而保证了后续对该第一图结构中除输入节点外的其余节点进行融合，确保图匹配过程的顺利进行。

在一种可行的实施方式中，上述方法还包括：对第一图结构中除输入节点外的其余节点进行融合，得到目标参考节点。

在一种可行的实施方式中，上述替换步骤包括：将第一图结构中除输入节点外的其余节点融合为一个目标参考节点，并利用一个目标参考节点替换第一图结构中除输入节点外的其余节点。