[发明专利]数据分类模型训练的方法、装置、电子设备和存储介质

说明书

本公开涉及深度学习领域，尤其涉及一种数据分类模型训练的方法、装置、电子设备和存储介质。所述方法包括：获取多个第一样本数据、多个第二样本数据以及第一迭代次数和第二迭代次数；在第一迭代次数内，基于多个第一样本数据，使用环形训练方式对第一数据分类模型进行训练，得到第二数据分类模型；在第二迭代次数内，基于多个第二样本数据，使用树形训练方式对第二数据分类模型进行训练，得到第三数据分类模型，在进行数据分类训练时，将环形训练方式和树形训练方式结合，相较于单独使用树形训练方式能够节约大量的时间，同时还能够保证数据分类模型的精确度，提高了数据分类模型的训练效率。

技术领域

本公开涉及深度学习领域，尤其涉及数据分类模型训练的方法、装置、电子设备和存储介质。

背景技术

随着深度学习技术的发展，人们可以通过使用深度学习的方法，有效地处理语音识别或图像分类等机器分类问题。在进行数据分类时，需要先训练数据分类模型，基于数据分类模型进行数据分类。为了提高数据分类模型分类的准确性，往往需要提供大量的样本数据，更多的样本数据也意味着沉重的计算负担。在深度学习训练领域，相较于CPU(Central Processing Unit，中央处理器)来说，GPU(Graphics Processing Unit，图形处理器)在矩阵并行化计算方面非常有优势，更适合进行数据分类模型的训练。

相关技术中，在训练数据分类模型时，常用的训练方式是树形训练方式，例如采用常规多卡分布式算法，将样本数据和模型完整的网络结构发送到每个GPU上，使用多个GPU进行模型训练，每次训练结束由一个汇总GPU从其他的GPU上收集训练的每个模型参数，根据其他的GPU训练得到的每个模型参数，确定模型参数的平均值，然后将模型参数的平均值分发到其他GPU上，再进行模型训练，直到迭代次数达到预设的总迭代次数，此时训练得到数据分类模型。

相关技术存在的问题是，在训练模型的过程中，在预设的总迭代次数中，每一次的迭代都需要将所有GPU的模型参数同步到一起进行运算，随着GPU总个数的增长和/或模型参数的增多，用于汇总的GPU的通信时间会成线性增长，无法在短时间内训练出需要的数据分类模型，因此，训练数据分类模型占用了大量的时间，导致数据分类模型训练的效率低。

发明内容

本公开提供一种数据分类模型训练的方法、装置、电子设备和存储介质，能够克服训练数据分类模型占用了大量的时间，导致数据分类模型训练的效率低问题。

根据本公开实施例的第一方面，提供一种数据分类模型训练的方法，包括：

获取多个第一样本数据、多个第二样本数据以及第一迭代次数和第二迭代次数，所述第一迭代次数和所述第二迭代次数之和为模型训练的总迭代次数，所述第一样本数据用于第一数据分类模型的训练，所述第二样本数据用于第二数据分类模型的训练；

在所述第一迭代次数内，基于所述多个第一样本数据，使用环形训练方式对第一数据分类模型进行训练，得到第二数据分类模型；

在所述第二迭代次数内，基于所述多个第二样本数据，使用树形训练方式对所述第二数据分类模型进行训练，得到第三数据分类模型。

在一种可能的实现方式中，所述在所述第一迭代次数内，基于所述多个第一样本数据，使用环形训练方式对第一数据分类模型进行训练，得到第二数据分类模型，包括：

通过多个第一训练机器和所述多个第一样本数据，对所述第一数据分类模型进行训练，得到每个第一训练机器训练得到的第一模型参数；

根据每个第一训练机器的环形连接顺序，将所述每个第一训练机器得到的第一模型参数进行传递，以使每个第一训练机器获取到其他第一训练机器得到的第一模型参数；