[发明专利]一种模型参数确定方法、装置及存储介质

说明书

本发明实施例提供一种模型参数确定方法、装置及存储介质，该模型参数确定方法包括：确定待运行的深度学习算法模型对应目标硬件平台的初始运行参数；在所述目标硬件平台中，将所述初始运行参数逐代增加至预设运行参数，并依次按照不同运行参数运行所述深度学习算法模型；分别监测不同运行参数下所述深度学习算法模型的性能值；若当前运行参数达到预设运行参数，则确定已监测到的性能值中的目标性能值；将所述目标性能值对应的运行参数，作为所述深度学习算法模型在所述目标硬件平台上运行的目标运行参数。本发明实施例中，能够针对运行深度学习算法模型的硬件进行参数确定，合理考虑模型运行过程中的运行参数，提升硬件资源利用率。

技术领域

本发明属于计算机应用技术领域，特别是涉及一种模型参数确定方法、装置及存储介质。

背景技术

随着互联网业务的发展，出于语音识别、图像识别、数据挖掘、推荐和个性化技术等方面的需求，深度学习算法模型的种类也越来越丰富。

不同的硬件平台通常具有不同的硬件资源配置，例如不同的硬件平台可以包括不同规格的CPU(Central Processing Unit，中央处理器)、GPU(Graphics Processing Unit，图形处理器)、FPGA(Field Programmable Gate Array，现场可编程逻辑门阵列)、以及ASIC(Application Specific Integrated Circuit，专用集成电路)芯片。

此时，如果运行深度学习算法模型的硬件平台的配置较高，可能造成资源浪费；如果运行深度学习算法模型的硬件平台的配置较低，可能出现硬件资源不足的问题。

发明内容

有鉴于此，本发明提供一种模型参数确定方法、请求拦截方法、装置及存储介质，用以在一定程度上解决现有技术中运行深度学习算法模型时，由于硬件平台的配置不确定造成的资源不足或资源过剩的问题。

依据本发明的第一方面，提供了一种模型参数确定方法，所述方法包括：

确定待运行的深度学习算法模型对应目标硬件平台的初始运行参数；

在所述目标硬件平台中，将所述初始运行参数逐代增加至预设运行参数，并依次按照不同运行参数运行所述深度学习算法模型；

分别监测不同运行参数下所述深度学习算法模型的性能值；

若当前运行参数达到预设运行参数，则确定已监测到的性能值中的目标性能值；

将所述目标性能值对应的运行参数，作为所述深度学习算法模型在所述目标硬件平台上运行的目标运行参数。

可选地，所述初始运行参数包括初始进程数和初始批尺寸，所述预设运行参数包括预设进程数和预设批尺寸，所述在所述目标硬件平台中，将所述初始运行参数逐代增加至预设运行参数的步骤，包括：

在上一代批尺寸小于所述预设批尺寸的情况下，确定当前进程数为上一代进程数，以及当前批尺寸由上一代批尺寸按照第一预设规则增加得到；或者，

在上一代批尺寸等于所述预设批尺寸的情况下，确定当前进程数由上一代进程数按照第二预设规则增加得到，以及当前批尺寸为所述初始批尺寸。

可选地，所述在所述目标硬件平台中，将所述初始运行参数逐代增加至预设运行参数，并依次按照不同运行参数运行所述深度学习算法模型的步骤之后，所述方法还包括：

实时监测不同运行参数下所述目标硬件平台的内存占用率和所述深度学习算法模型的性能值；

当所述目标硬件平台的内存占用率符合预设条件时，终止运行所述深度学习算法模型；

确定已监测到的性能值中的目标性能值；