[发明专利]超参数优化方法、装置、计算机设备和存储介质

说明书

本申请涉及一种超参数优化方法、装置、计算机设备和存储介质。该方法包括：获取预设数量的超参数组，通过已训练好的经验模型分别预测每个超参数组的超参数组评分；根据超参数组评分从超参数组中筛选候选超参数组；按照候选超参数组和预设的机器学习算子，根据目标问题对应的训练样本集进行模型训练，得到已训练的目标问题预测模型；根据目标问题对应的测试样本集对目标问题预测模型进行测试，得到候选超参数组对应的评估值；根据评估值更新目标问题当前对应的参考评估值，并返回至获取预设数量的超参数组的步骤继续执行，直至符合迭代停止条件；将参考评估值所对应的候选超参数组，确定为目标超参数组。采用本方法能够提高优化效率。

技术领域

本申请涉及参数优化技术领域，特别是涉及一种超参数优化方法、装置、计算机设备和存储介质。

背景技术

随着计算机技术的发展，出现了机器学习技术，通过机器学习技术能够自动从海量数据中挖掘有价值的信息。机器学习研究与应用的前提在于提升机器学习算法效果，比如从特征工程、模型选择、超参数优化和结果评估等方面提升机器学习算法效果。传统的机器学习依赖于专家知识，存在效率低、成本高的问题。为了解决这一问题，自动机器学习技术逐渐发展起来，以超参数优化为例，基于所选取的超参数组进行机器学习模型的训练和评估，以实现超参数优化。

目前，超参数优化算法通常是基于采样和对采样进行评估的方式来进行超参数优化空间的搜索，超参数优化算法比如网格搜索、随机搜索、贝叶斯优化和演化算法等。为了提升优化效果，现有的超参数优化算法通常需要进行大量的采样，并对大量采样分别进行评估，存在优化效率低的问题。

发明内容

基于此，有必要针对上述技术问题，提供一种能够提高优化效率的超参数优化方法、装置、计算机设备和存储介质。

一种超参数优化方法，所述方法包括：

获取预设数量的超参数组，通过已训练好的经验模型分别预测每个超参数组的超参数组评分；

根据所述超参数组评分从所获取到的超参数组中筛选候选超参数组；

按照所述候选超参数组和预设的机器学习算子，根据目标问题对应的训练样本集进行模型训练，得到已训练的目标问题预测模型；

根据所述目标问题对应的测试样本集对所述目标问题预测模型进行测试，得到所述候选超参数组对应的评估值；

根据所述评估值更新所述目标问题当前对应的参考评估值，并返回至所述获取预设数量的超参数组，通过已训练好的经验模型分别预测每个超参数组的超参数组评分的步骤继续执行，直至符合迭代停止条件；

将所述目标问题对应的参考评估值所对应的候选超参数组，确定为目标超参数组。

在其中一个实施例中，已训练好的经验模型有多个；所述获取预设数量的超参数组，通过已训练好的经验模型分别预测每个超参数组的超参数组评分，包括：

获取超参数组；

通过已训练好的多个经验模型分别对所述超参数组进行预测，得到所述超参数组的多个超参数组子评分；

根据所述多个超参数组子评分得到所述超参数组的超参数组评分，并返回至所述获取超参数组的步骤继续执行，直至得到预设数量的超参数组评分。

在其中一个实施例中，所述根据所述多个超参数组子评分得到所述超参数组的超参数组评分，包括：

将所述多个超参数组子评分按照相应经验模型所对应的权重进行加权求和，得到所述超参数组的超参数组评分；

所述方法还包括：

根据所述候选超参数组对应的多个超参数组子评分，动态更新每个经验模型所对应的权重。