[发明专利]模型运行方法、装置、终端及存储介质

权利要求书

1.一种模型运行方法，其特征在于，所述方法包括：

获取待运行的机器学习模型，所述机器学习模型包括至少一个算子；

确定所述机器学习模型中的n个第一算子，所述第一算子是指第一处理器不支持运行的算子，所述n为正整数；

按照所述机器学习模型包括的各个算子的运行顺序，确定目标第一算子，所述目标第一算子是指运行顺序在所述n个第一算子中为第一个的第一算子；

将所述目标第一算子作为切割点，将所述目标第一算子以及运行顺序在所述目标第一算子之后的算子从所述机器学习模型中去除，得到调整后的机器学习模型，所述调整后的机器学习模型包括所述第一处理器支持运行的算子；

在所述第一处理器上运行所述调整后的机器学习模型。

2.根据权利要求1所述的方法，其特征在于，所述确定所述机器学习模型中的n个第一算子之后，还包括：

从处理器集合中选择第二处理器，所述处理器集合中包括至少一个处理器，所述第二处理器是支持运行所述第一算子的处理器；

在所述第二处理器上运行所述第一算子。

3.根据权利要求2所述的方法，其特征在于，所述从处理器集合中选择第二处理器，包括：

选取所述处理器集合中支持运行所述第一算子，且运算速度最快的处理器作为所述第二处理器。

4.根据权利要求2所述的方法，其特征在于，所述从处理器集合中选择第二处理器，包括：

获取所述处理器集合包括的至少一个处理器各自的状态信息，所述状态信息用于表征处理器的运行状态；

根据所述处理器集合包括的至少一个处理器各自的状态信息，确定所述第二处理器。

5.根据权利要求1所述的方法，其特征在于，所述确定所述机器学习模型中的n个第一算子之后，还包括：

对于所述n个第一算子中的第i个第一算子，获取所述第i个第一算子对应的数学模型，所述i为小于等于n的正整数；

对所述数学模型进行拆解，获得至少一个拆解元素；

获取所述至少一个拆解元素对应的至少一个第二算子，通过拼接所述至少一个第二算子实现所述第i个第一算子的计算功能，所述第二算子是指所述第一处理器支持运行的算子；

在所述第一处理器上运行所述至少一个第二算子。

6.一种模型运行装置，其特征在于，所述装置包括：

模型获取模块，用于获取待运行的机器学习模型，所述机器学习模型包括至少一个算子；

算子确定模块，用于确定所述机器学习模型中的n个第一算子，所述第一算子是指第一处理器不支持运行的算子，所述n为正整数；

模型调整模块，用于按照所述机器学习模型包括的各个算子的运行顺序，确定目标第一算子，所述目标第一算子是指运行顺序在所述n个第一算子中为第一个的第一算子；将所述目标第一算子作为切割点，将所述目标第一算子以及运行顺序在所述目标第一算子之后的算子从所述机器学习模型中去除，得到调整后的机器学习模型，所述调整后的机器学习模型包括所述第一处理器支持运行的算子；

模型运行模块，用于在所述第一处理器上运行所述调整后的机器学习模型。

7.一种终端，其特征在于，所述终端包括处理器和存储器，所述存储器存储有计算机程序，所述计算机程序由所述处理器加载并执行以实现如权利要求1至5任一项所述的方法。

8.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有计算机程序，所述计算机程序由处理器加载并执行以实现如权利要求1至5任一项所述的方法。