[发明专利]数据增强模型训练方法、装置、电子设备及存储介质

说明书

本公开提供了一种数据增强模型训练方法、装置、电子设备及存储介质，涉及数据处理技术领域。该方法包括：获取样本数据，其中，所述样本数据包括：多个句子；在基于预先构建的特征向量模型生成每个句子的句子向量时，对每个句子执行两次Dropout处理，得到每个句子对应的两个句子向量；根据每个句子对应的两个句子向量，构建正样本对数据和负样本对数据；利用构建的正样本对数据和负样本对数据，训练得到数据增强模型，以对待增强的数据进行增强。本公开利用训练好的数据增强模型对各种模型训练样本数据进行增强，能够使得利用增强后训练样本数据训练的模型更加准确。

技术领域

本公开涉及数据处理技术领域，尤其涉及一种数据增强模型训练方法、装置、电子设备及存储介质。

背景技术

在智能客服机器人的建设中，通常要基于预先通过机器学习训练得到的语义匹配模型对问题与答案进行匹配。而语义匹配模型的训练，需要大量训练样本数据。目前，相关技术中，往往依靠人工标注的方式获得用于语义匹配模型训练的样本数据。这种方式，不仅耗时耗力，而且得到的样本数据质量一般、数量也相对较少。因而，如何提供一种数据增强模型，以对各种模型训练的样本数据进行增强，是亟待解决的技术问题。

需要说明的是，在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

本公开提供一种数据增强模型训练方法、装置、电子设备及存储介质，至少在一定程度上克服相关技术中难以获得质量较高、数量较多的模型训练样本数据的技术问题。

本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。

根据本公开的一个方面，提供一种数据增强模型训练方法，该方法包括：获取样本数据，其中，所述样本数据包括：多个句子；在基于预先构建的特征向量模型生成每个句子的句子向量时，对每个句子执行两次Dropout处理，得到每个句子对应的两个句子向量；根据每个句子对应的两个句子向量，构建正样本对数据和负样本对数据；利用构建的正样本对数据和负样本对数据，训练得到数据增强模型，其中，数据增强模型用于对待增强的数据进行增强。

在一些实施例中，所述根据每个句子对应的两个句子向量，构建正样本对数据和负样本对数据包括：将同一句子的两个句子向量作为一个正样本对，生成正样本对数据；将不同句子的两个句子向量作为一个负样本对，生成负样本对数据。

在一些实施例中，所述方法还包括：采用单词重复的方式，对正样本对数据进行扩充。

在一些实施例中，所述方法还包括：采用动量对比学习的方式，对负样本对数据进行扩充。

在一些实施例中，所述利用构建的正样本对数据和负样本对数据，训练得到数据增强模型，其中，数据增强模型用于对待增强的数据进行增强包括：对所述正样本对数据和所述负样本对数据进行预处理，得到满足BERT模型输入格式的样本数据；利用所述满足BERT模型输入格式的样本数据，对BERT模型进行训练，得到所述数据增强模型。

在一些实施例中，在对所述正样本对数据和所述负样本对数据进行预处理，得到满足BERT模型输入格式的样本数据之前，所述方法还包括：构建一个语料迭代器，其中，所述语料迭代器用于按照不同批次对所述正样本对数据和所述负样本对数据进行预处理。

在一些实施例中，所述待增强的数据为用于训练语义匹配模型的样本数据。