[发明专利]调度参数的调整方法、设备及存储介质

权利要求书

1.一种调度参数的调整方法，其特征在于，应用于主控设备，包括：

搜索与目标设备匹配的算子调度模板；

根据所述匹配的算子调度模板和调度参数搜索算法生成调度参数，并将所述调度参数发送给所述目标设备，供所述目标设备根据所述调度参数运行算子对应的调度过程；

接收所述目标设备反馈的执行所述调度过程的性能数据，根据所述性能数据调整所述调度参数并发送给所述目标设备。

2.根据权利要求1所述的调度参数的调整方法，其特征在于，所述搜索与目标设备匹配的算子调度模板，包括：

根据目标设备的硬件信息以及预设的算子调度模板与硬件信息的对应关系，在预设的算子调度模板数据库中查询得到与目标设备匹配的算子调度模板；

其中，所述算子调度模板数据库中存储有多个算子调度模板。

3.根据权利要求1所述的调度参数的调整方法，其特征在于，所述根据所述算子调度模板和调度参数搜索算法生成调度参数，包括：

根据所述匹配的算子调度模板暴露的调度参数，生成算子调度参数集合；所述算子调度参数集合包括多组调度参数，每一组调度参数均包括所述算子的一次调度过程中所需的调度参数；

以所述调度参数搜索算法在所述算子调度参数集合中搜索出一组调度参数，将所述搜索出的一组调度参数，作为所述生成的调度参数。

4.根据权利要求3所述的调度参数的调整方法，其特征在于，在所述生成算子调度参数集合之后，在所述以所述调度参数搜索算法在所述算子调度参数集合中搜索出一组调度参数之前，还包括：

根据基于所述算子调度参数集合形成的参数搜索空间的大小，在预设的调度搜索算法数据库中选取一种调度参数搜索算法；其中，所述参数搜索空间基于所述算子调度参数集合得到，所述调度搜索算法数据库包括多种调度参数搜索算法；

所述以所述调度参数搜索算法在所述算子调度参数集合中搜索出一组调度参数，包括：

以所述选取的调度参数搜索算法在所述算子调度参数集合中搜索出一组调度参数。

5.根据权利要求4所述的调度参数的调整方法，其特征在于，所述根据基于所述算子调度参数集合形成的参数搜索空间的大小，在预设的调度搜索算法数据库中选取一种调度参数搜索算法，包括：

根据所述参数搜索空间的大小预估所述性能数据收敛需要的时间；

在所述性能数据收敛需要的时间大于预设阈值的情况下，选取偏向于全局均匀搜索的调度参数搜索算法；

在所述性能数据收敛需要的时间小于或等于预设阈值的情况下，选取在规定时间内搜索局部最优解的调度参数搜索算法。

6.根据权利要求1至5中任一项所述的调度参数的调整方法，其特征在于，在所述搜索与目标设备匹配的算子调度模板之前，还包括：

将待获取的调度参数涉及的深度学习模型拆分为单个算子；

所述搜索与目标设备匹配的算子调度模板，包括：

搜索与目标设备匹配的所述拆分得到的算子的算子调度模板。

7.一种调度参数的调整方法，其特征在于，应用于目标设备，包括：

接收主控设备发送的调度参数；其中，所述调度参数根据与所述目标设备匹配的算子调度模板和调度参数搜索算法生成；

根据所述调度参数运行算子对应的调度过程；

向所述主控设备反馈执行所述调度过程的性能数据，供所述主控设备根据所述性能数据调整所述调度参数并发送给所述目标设备。

8.一种主控设备，其特征在于，包括：

搜索模块，用于搜索与目标设备匹配的算子调度模板；

调度参数生成模块，用于根据所述匹配的算子调度模板和调度参数搜索算法生成调度参数，并将所述调度参数发送给所述目标设备，供所述目标设备根据所述调度参数运行算子对应的调度过程；

迭代模块，用于接收所述目标设备反馈的执行所述调度过程的性能数据，根据所述性能数据调整所述调度参数并发送给所述目标设备。