[发明专利]识别模型的训练及应用方法、装置、计算设备及存储介质

说明书

本申请公开了一种识别模型的训练及应用方法、装置、计算设备及存储介质。该模型训练方法包括：获取不同来源的文本数据，其中，不同来源的文本数据中包括第一类文本数据和第二类文本数据，所述第一类文本数据具有来源标签，所述第二类文本数据具有预定属性标签，所述预定属性不包括文本来源；基于同一特征提取网络提取所述文本数据的特征数据；基于第一类文本数据的特征数据训练第一分类器，并基于第二类文本数据的特征数据训练第二分类器，其中所述第一分类器用于确定文本数据的来源，所述第二分类器用于确定文本数据的预定属性。由此，使得所训练的识别模型(机器学习模型)能够针对不同来源的数据间快速迁移并应用，从而节约成本并节省人力。

背景技术

随着信息技术的飞速发展，涌现出众多的信息流推荐平台，例如新闻平台、微博、短视频平台、公众号等，这些内容平台可以提供诸如文章、外链文章、新闻、视频、短视频等网络内容。这些内容能够为人们提供生活、工作、娱乐等众多方面的信息，能够为人们带来诸多便利。

通常，在这些网络内容被发布之前，平台管理者需要对这些网络内容进行识别、审核，以从中剔除存在问题的网络内容。目前，针对网络内容的识别、审核大多基于识别模型，而识别模型大多数依赖于有标签的标注数据来进行有监督学习。然而，当数据来源众多时，同一模型在不同的数据集上的识别效果差距较大。而若是针对每一种来源的数据重复进行数据标注以及重新训练识别模型，则费时费力，代价较大。

发明内容

本申请的目的是提供一种识别模型的训练及应用方法、装置、计算设备及存储介质，以解决上述的至少一个问题。

第一方面，本申请实施例提供了一种训练识别模型的方法，该方法包括：获取不同来源的文本数据，其中，所述不同来源的文本数据中包括第一类文本数据和第二类文本数据，所述第一类文本数据具有来源标签，所述第二类文本数据具有预定属性标签，所述预定属性不包括文本来源；基于同一特征提取网络提取所述文本数据的特征数据；基于第一类文本数据的特征数据训练第一分类器,并基于第二类文本数据的特征数据训练第二分类器，其中所述第一分类器用于确定文本数据的来源，所述第二分类器用于确定文本数据的预定属性。由此，通过基于不同来源的文本数据训练识别模型，使得所训练的识别模型能够在新的来源的文本数据之间快速迁移并应用，既能够极大地减少人力和物力，又不会对原有来源的文本数据造成较大影响。

在一个实施例中，所述基于同一特征提取网络提取所述文本数据的特征数据的步骤包括：基于预先训练的词向量，获取所述文本数据的特征序列；将所述文本数据的特征序列输入所述特征提取网络，以输出所述特征数据。

在一个实施例中，所述特征提取网络为下述网络的任何一项：双向长短期记忆网络LSTM；卷积神经网络CNN；空间变换网络Transformer。

在一个实施例中，在训练第一分类器和训练第二分类器的过程中，在所述特征提取网络与所述第一分类器和第二分类器的全连接层之间分别进行前向传播和反向传播。

在一个实施例中，在训练所述第一分类器的反向传播过程中，在残差由所述第一分类器向所述特征提取网络反向传播时，通过以下公式进行梯度反转：

其中，所述L_domain表示所述第一分类器生成的损失，所述θ_f表示第一分类器的参数，所述α表示对梯度进行放缩的尺度。

在一个实施例中，所述模型的损失函数为：

L_all＝L_label+λL_domain

其中，所述L_domain表示所述第一分类器生成的损失，所述L_label表示所述第二分类器生成的损失，λ用于平衡所述第一分类器和所述第二分类器生成的损失。

在一个实施例中，所述预定属性为文本内容是否低俗的属性。