[发明专利]一种机器学习模型参数寻优方法、装置及存储介质

说明书

本发明涉及一种机器学习模型参数寻优方法、装置、存储介质，该方法包括：确定粒子群算法超参数的初始值，粒子群算法超参数包括偏移量，惯性系数，个体学习因子和群体学习因子，所述的偏移量用于在迭代过程中更新粒子群中的粒子，所述的惯性系数用于在迭代过程中更新所述的偏移量；确定机器学习模型的模型参数组合，随机选出若干组模型参数组合训练模型生成模型初始粒子群；采用粒子群算法进行迭代寻优，获取最优的模型参数组合；在迭代过程中：更新粒子群算法中的惯性系数以及偏移量这两个超参数，进而更新粒子群中的模型参数组合。与现有技术相比，本发明能够提高寻优效率，使机器学习模型的各个参数均能得到优化，提高机器学习模型的效果。

技术领域

本发明涉及机器学习技术领域，尤其是涉及机器学习模型参数寻优方法、装置及存储介质。

背景技术

机器学习模型的性能主要取决于它的参数配置。采用不同的参数组合生成的模型往往具有很大的性能差异。

对于机器学习而言，参数寻优始终是个挑战，因为在有多个参数构成的高维连续数值空间中存在海量的参数组合。目前常用的参数寻优方法包括网格搜索方法和贝叶斯搜索方法。

网格搜索方法由于需要遍历所有可能的组合，所以在大规模的参数空间下性能表现很差；而贝叶斯搜索方法往往需要根据实际问题，结合相关领域知识选择合适的代理函数与采集函数，机器学习模型的参数都是多样的，很难找到一个全局的代理函数来近似。

因此，亟需一种新的模型参数寻优方法来解决上述问题。

发明内容

本发明的目的就是为了克服上述现有技术存在的缺陷而提供一种机器学习模型参数寻优方法、装置及存储介质，提高寻优效率，并使得机器学习模型的各个参数均能得到优化，提高机器学习模型的效果。

本发明的目的可以通过以下技术方案来实现：

一种机器学习模型参数寻优方法，该方法包括：

确定粒子群算法超参数的初始值，所述的粒子群算法超参数包括偏移量，惯性系数，个体学习因子和群体学习因子，所述的偏移量用于在迭代过程中更新粒子群中的粒子，所述的惯性系数用于在迭代过程中更新所述的偏移量；

确定机器学习模型的模型参数组合，随机选出若干组模型参数组合训练模型生成模型初始粒子群；

采用粒子群算法进行迭代寻优，获取最优的模型参数组合；

在迭代过程中：更新粒子群算法中的惯性系数以及偏移量这两个超参数，进而更新粒子群中的模型参数组合。

优选地，在迭代过程中，每一轮迭代开始时，利用偏移量更新粒子群中的模型参数组合，每一次迭代结束更新惯性系数，并基于更新的惯性系数计算下一次迭代过程的偏移量。

优选地，迭代过程中更新模型参数组合的具体方式为：

[α_1,k α_2,k…α_n,k]＝[α_1,k-1 α_2,k-1…α_n,k-1]+[p_1,k p_2,k…p_n,k]