[发明专利]一种超参数确定方法、装置、计算机设备和存储介质

说明书

本申请实施例公开了一种超参数确定方法、装置、计算机设备和存储介质；本申请实施例可以获取至少一个待训练模型的超参数组，待训练模型属于目标模型类型，超参数组包括至少一个维度的超参数，每个维度的超参数指示待训练模型在每个维度下的模型结构特征；将目标超参数组分配给分布式集群中的目标超参数评估节点；通过目标超参数评估节点，采用目标超参数组对目标待训练模型进行模型训练，目标待训练模型为目标超参数组对应的待训练模型；对训练后模型进行模型评估，得到每个超参数组的超参数评估结果；基于超参数评估结果，从超参数组中选取目标模型类型的最优超参数组。该方案可以通过提高超参数调优的效率来高效地确定超参数。

技术领域

本申请涉及计算机技术领域，具体涉及一种超参数确定方法、装置、计算机设备和存储介质。

背景技术

在机器学习的上下文中，超参数是在开始学习过程之前设置值的参数，而不是通过训练得到的参数数据。通常情况下，需要对超参数进行优化，给学习机选择一组最优超参数，以提高学习的性能和效果。

不少机器学习模型训练前需预先设定超参数值，且超参数取值对提升模型学习性能及效果有重要作用。尤其当超参数个数较多时，如何确定各超参数取值给建模人员提出了不小挑战。本申请的发明人发现，目前通常采用经验法直接确定，这使得超参数的调优效率十分低下，且确定超参数的方法也十分有限，亟需改善。

发明内容

本申请实施例提供一种超参数确定方法、装置、计算机设备和存储介质，可以通过提高超参数调优的效率来高效地确定超参数。

本申请实施例提供一种超参数确定方法，包括：

获取至少一个待训练模型的超参数组，其中，所述待训练模型属于目标模型类型，所述超参数组包括至少一个维度的超参数，每个维度的超参数指示所述待训练模型在每个维度下的模型结构特征；

将目标超参数组分配给分布式集群中的目标超参数评估节点；

通过所述目标超参数评估节点，采用所述目标超参数组对目标待训练模型进行模型训练，其中，所述目标待训练模型为所述目标超参数组对应的待训练模型；

对训练后模型进行模型评估，以确定所述目标超参数组的目标超参数评估结果，得到每个超参数组的超参数评估结果；

基于所述超参数评估结果，从所述超参数组中选取所述目标模型类型的最优超参数组。

相应的，本申请实施例还提供一种超参数确定装置，包括：

获取单元，用于获取至少一个待训练模型的超参数组，其中，所述待训练模型属于目标模型类型，所述超参数组包括至少一个维度的超参数，每个维度的超参数指示所述待训练模型在每个维度下的模型结构特征；

分配单元，用于将目标超参数组分配给分布式集群中的目标超参数评估节点；

训练单元，用于通过所述目标超参数评估节点，采用所述目标超参数组对目标待训练模型进行模型训练，其中，所述目标待训练模型为所述目标超参数组对应的待训练模型；

评估单元，用于对训练后模型进行模型评估，以确定所述目标超参数组的目标超参数评估结果，得到每个超参数组的超参数评估结果；

选取单元，用于基于所述超参数评估结果，从所述超参数组中选取所述目标模型类型的最优超参数组。

在一实施例中，所述训练单元，包括：

同步子单元，用于将进行模型训练所需的数据集同步至所述目标超参数评估节点；

调整子单元，用于采用所述目标超参数组调整目标待训练模型的模型结构；

训练子单元，用于基于所述数据集，通过所述目标超参数评估节点对调整后的目标待训练模型进行模型训练，得到训练后模型。