[发明专利]计算图的子图模式匹配方法及装置

说明书

本申请实施例提供一种计算图的子图模式匹配方法及装置，方法包括：根据子图中各节点与最终输出节点之间的连接关系，确定子图中各节点的所属层级；根据所述各节点的顺序编号、节点类型以及节点输出关系，确定所述各节点的路径编码；根据各所属层级中路径编码不同的节点的顺序编号，确定所述子图的结构描述编码，并根据所述结构描述编码进行不同子图间的模式匹配；本申请能够准确描述子图构造和各节点之间的关系，进而提高子图模式识别和匹配的准确率。

技术领域

本申请涉及人工智能领域，具体涉及一种计算图的子图模式匹配方法及装置。

背景技术

随着人工智能技术的迅速发展，人工智能算力不断提升，各种人工智能力推计算框架不断出现，基于人工智能技术的图像、视频、语音应用迅速落地，在提高生产效率方面发挥了巨大的作用。

由于人工智能推理模型的日益复杂，模型计算成本也越来越高，基于计算图的优化方式也层出不穷，例如将相同结构的子图做融合处理，或是图算融合，把出现频率高的子图作为一个大算子去做整体计算处理。这时候如何识别可融合的子图和识别图算融合的子图模式就成为了一个不得不解决的问题。

现有技术中的人工智能推理框架并没有子图模式识别的相关功能，大多数无子图模式识别的框架无法具备子图融合前验证的功能，很多公司做子图融合或图算融合多为人工去做子图拓扑结构的提取与比对，图解析格式不统一导致融合流程无法实现通用性，人工做比对存在风险高的问题，如果计算图结构复杂，需要融合的子图数量大，还会造成模型优化人员开发量大的问题。

发明内容

针对现有技术中的问题，本申请提供一种计算图的子图模式匹配方法及装置，能够准确描述子图构造和各节点之间的关系，进而提高子图模式识别和匹配的准确率。

为了解决上述问题中的至少一个，本申请提供以下技术方案：

第一方面，本申请提供一种计算图的子图模式匹配方法，包括：

根据子图中各节点与最终输出节点之间的连接关系，确定子图中各节点的所属层级；

根据所述各节点的顺序编号、节点类型以及节点输出关系，确定所述各节点的路径编码；

根据各所属层级中路径编码不同的节点的顺序编号，确定所述子图的结构描述编码，并根据所述结构描述编码进行不同子图间的模式匹配。

进一步地，所述根据子图中各节点与最终输出节点之间的连接关系，确定子图中各节点的所属层级，包括：

对子图中的最终输出节点设定一默认所属层级，其中，所述最终输出节点为所述子图中没有输出张量的节点；

根据所述子图中各节点与所述最终输出节点之间的节点输入关系和所述最终输出节点的默认所属层级，确定所述各节点的所属层级。

进一步地，所述根据所述子图中各节点与所述最终输出节点之间的节点输入关系和所述最终输出节点的默认所属层级，确定所述各节点的所属层级，包括：

根据所述子图中各节点的节点输出链路数量、所述各节点与所述最终输出节点的节点输入链路上途经节点的节点输出链路数量以及所述最终输出节点的默认所属层级，计算得到所述各节点的所属层级。

进一步地，所述根据所述各节点的顺序编号、节点类型以及节点输出关系，确定所述各节点的路径编码，包括：

以子图中的最终输出节点为起始对各节点进行顺序编号；

根据各节点与相邻节点的顺序编号、各节点与相邻节点的节点输出关系以及各节点的节点类型，确定所述各节点的路径编码。

进一步地，所述根据各所属层级中路径编码不同的节点的顺序编号，确定所述子图的结构描述编码，包括：