[发明专利]配置信息生成方法、装置、设备及存储介质

权利要求书

1.一种配置信息生成方法，其特征在于，所述方法包括：

加载机器学习模型，所述机器学习模型包括至少一种算子，所述至少一种算子中的第i种算子具有n种实现方式，所述i为正整数，所述n为大于1的整数；

对于所述n种实现方式中的第m种实现方式，配置所述机器学习模型的所述第i种算子使用所述第m种实现方式，所述m为小于或等于所述n的正整数；

调用所述机器学习模型执行预设任务a次，所述a为大于1的整数；

获取所述第m种实现方式中对应的第b次执行过程的起始执行时刻和结束执行时刻，所述b为小于或等于所述a的正整数；

将所述起始执行时刻和所述结束执行时刻之间的时间差，确定为所述第b次执行过程对应的运算时间；

计算a个运算时间的平均值，得到所述第i种算子的所述第m种实现方式的运算时间；

从所述n种实现方式中，选择运算时间最小的实现方式为目标实现方式；

生成所述机器学习模型对应的配置信息，所述配置信息用于指示在运行所述机器学习模型的所述第i种算子时使用所述目标实现方式。

2.根据权利要求1所述的方法，其特征在于，所述从所述n种实现方式中，确定目标实现方式，包括：

获取所述n种实现方式各自对应的运算精度；

从所述n种实现方式中，选择运算精度最高的实现方式为所述目标实现方式。

3.根据权利要求1或2所述的方法，其特征在于，所述生成所述机器学习模型对应的配置信息之后，还包括：

若需要通过所述机器学习模型执行目标业务，则读取目标配置文件中的配置信息；

根据所述目标配置文件中的配置信息，对所述机器学习模型进行配置得到完成配置的机器学习模型；

调用所述完成配置的机器学习模型执行所述目标业务。

4.根据权利要求3所述的方法，其特征在于，所述根据所述目标配置文件中的配置信息，对所述机器学习模型进行配置得到完成配置的机器学习模型，包括：

根据所述目标配置文件中的配置信息，对所述机器学习模型包括的各个算子所使用的实现方式进行配置，得到所述完成配置的机器学习模型。

5.根据权利要求3所述的方法，其特征在于，所述读取目标配置文件中的配置信息之前，还包括：

获取所述目标业务对应的业务场景；

从至少两个配置文件中，选择与所述业务场景相匹配的配置文件，作为所述目标配置文件；

其中，所述至少两个配置文件中的任意两个配置文件，具有不同的配置信息。

6.一种配置信息生成装置，其特征在于，所述装置包括：

模型加载模块，用于加载机器学习模型，所述机器学习模型包括至少一种算子，所述至少一种算子中的第i种算子具有n种实现方式，所述i为正整数，所述n为大于1的整数；

方式确定模块，用于对于所述n种实现方式中的第m种实现方式，配置所述机器学习模型的所述第i种算子使用所述第m种实现方式，所述m为小于或等于所述n的正整数；调用所述机器学习模型执行预设任务a次，所述a为大于1的整数；获取所述第m种实现方式中对应的第b次执行过程的起始执行时刻和结束执行时刻，所述b为小于或等于所述a的正整数；将所述起始执行时刻和所述结束执行时刻之间的时间差，确定为所述第b次执行过程对应的运算时间；计算a个运算时间的平均值，得到所述第i种算子的所述第m种实现方式的运算时间；从所述n种实现方式中，选择运算时间最小的实现方式为目标实现方式；

信息生成模块，用于生成所述机器学习模型对应的配置信息，所述配置信息用于指示在运行所述机器学习模型的所述第i种算子时使用所述目标实现方式。

7.一种计算机设备，其特征在于，所述计算机设备包括处理器和存储器，所述存储器存储有计算机程序，所述计算机程序由所述处理器加载并执行以实现如权利要求1至5任一项所述的方法。

8.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质中存储有计算机程序，所述计算机程序由处理器加载并执行以实现如权利要求1至5任一项所述的方法。