[发明专利]深度学习模型的硬件调度执行方法、装置、设备及介质

权利要求书

1.一种深度学习模型的硬件调度执行方法，其特征在于，包括：

获取目标深度学习模型计算图；

将所述计算图与预设功能子图库中各待匹配功能子图进行模糊匹配；并在所述计算图中确定与各所述待匹配功能子图匹配的计算子图，及对应的模糊匹配度；

根据所述模糊匹配度，确定各所述待匹配功能子图中与目标计算子图匹配成功的目标功能子图；并根据所述目标功能子图确定与所述目标计算子图对应的内核融合子图；

根据所述内核融合子图对所述深度学习模型中的目标计算子图进行芯片多层内存结构的硬件调度执行。

2.根据权利要求1所述的方法，其特征在于，将所述计算图与预设功能子图库中各待匹配功能子图进行模糊匹配；并在所述计算图中确定与各所述待匹配功能子图匹配的计算子图，及对应的模糊匹配度，包括：

根据所述计算图与所述待匹配功能子图的当前匹配结果，确定所述待匹配功能子图中的待匹配节点、与所述待匹配节点对应的第一高阶邻域信息、所述待匹配功能子图中所述待匹配节点的第一父节点、所述计算图中与所述第一父节点匹配的第二父节点、以及与所述第二父节点对应的第二高阶邻域信息；

根据所述待匹配节点、所述第一高阶邻域信息、所述第一父节点、所述第二父节点、以及所述第二高阶邻域信息，确定所述计算图与所述待匹配功能子图的下一匹配结果，并确定对应的模糊匹配度；

如果所述待匹配功能子图中各节点均已进行模糊匹配，则将所述下一匹配结果作为与所述待匹配功能子图匹配的计算子图；否则，将所述下一匹配结果更新为当前匹配结果，并返回确定待匹配节点步骤，直至所述待匹配功能子图中各节点均进行模糊匹配。

3.根据权利要求2所述的方法，其特征在于，根据所述待匹配节点、所述第一高阶邻域信息、所述第一父节点、所述第二父节点、以及所述第二高阶邻域信息，确定所述计算图与所述待匹配功能子图的下一匹配结果，并确定对应的模糊匹配度，包括：

如果所述第二父节点的一阶邻域或者二阶邻域中存在第一目标节点与所述待匹配节点匹配，则根据所述第一目标节点确定所述计算图与所述待匹配功能子图的下一匹配结果，并确定本次匹配值，根据所述本次匹配值确定对应的模糊匹配度；

如果所述第二父节点的一阶邻域或者二阶邻域中不存在所述第一目标节点，且所述待匹配节点的出入度均为1，则删除所述待匹配节点，将所述待匹配节点的一阶邻域节点更新为待匹配节点，并检测在所述第二父节点的一阶邻域中是否存在第二目标节点与所述待匹配节点匹配，确定所述计算图与所述待匹配功能子图的下一匹配结果，以及对应的模糊匹配度；

如果所述第二父节点的一阶邻域中不存在所述第二目标节点，则检测在所述第二父节点的二阶邻域中是否存在第三目标节点与所述待匹配节点匹配，并确定所述计算图与所述待匹配功能子图的下一匹配结果，以及对应的模糊匹配度。

4.根据权利要求2所述的方法，其特征在于，根据所述模糊匹配度，确定各所述待匹配功能子图中与目标计算子图匹配成功的目标功能子图，包括：

如果各所述待匹配功能子图中存在至少两个与目标计算子图匹配的多个备选功能子图，则根据所述目标计算子图与匹配的各所述备选功能子图对应的模糊匹配度，确定唯一的目标功能子图。

5.根据权利要求4所述的方法，其特征在于，根据所述目标功能子图确定与所述目标计算子图对应的内核融合子图，包括：

将与所述目标功能子图对应的内核融合子图，作为与所述目标计算子图对应的内核融合子图。

6.根据权利要求1所述的方法，其特征在于，将所述计算图与预设功能子图库中各待匹配功能子图进行模糊匹配，包括：

以输入为根节点，按照广度优先顺序对所述计算图与各所述待匹配功能子图中的节点进行模糊匹配。

7.根据权利要求1所述的方法，其特征在于，所述功能子图，包括：由至少一个算子构成的block单元子图，以及由至少一个block单元构成的layer单元子图。