[发明专利]端到端敏感文本召回模型的训练方法、敏感文本召回方法

说明书

本申请公开了一种端到端敏感文本召回模型的训练方法、敏感文本召回方法，涉及数据处理技术领域，尤其涉及深度学习等人工智能技术。具体实现方案为：获取敏感文本拦截场景中的预设词表和第一随机文本语料；根据预设词表构建正样本数据，并根据第一随机文本语料构建负样本数据；根据正样本数据和负样本数据，通过人工评估方式和多样本拼接的采样方式对初始的文本分类模型执行循环迭代训练，得到训练完毕后模型指标达到目标指标的文本分类模型；以及根据模型指标达到目标指标的文本分类模型的模型参数，生成端到端敏感文本召回模型。本申请的技术方案可以提高生成的端到端敏感文本召回模型的知识泛化能力，从而提高该模型对敏感文本的召回能力。

技术领域

本申请涉及数据处理技术领域，尤其涉及深度学习等人工智能技术领域，特别涉及一种端到端敏感文本召回模型的训练方法、敏感文本召回方法。

背景技术

应用程序中的文本是向用户传达信息的主要方式之一，但包含的有害违规信息的敏感文本会给用户带来不良的使用体验，并同时带来监管风险、危害社会风气，最终导致应用程序产品被用户抛弃。词表召回能够及时对文本信息中的敏感文本进行召回，从而保障产品安全，提升用户使用体验。

发明内容

本申请提供了一种端到端敏感文本召回模型的训练方法、敏感文本召回方法、装置、设备以及存储介质。

根据本申请的第一方面，提供了一种端到端敏感文本召回模型的训练方法，包括：获取敏感文本拦截场景中的预设词表和第一随机文本语料；其中，所述预设词表之中词项对应的文本为敏感文本；根据所述预设词表构建正样本数据，并根据所述第一随机文本语料构建负样本数据；根据所述正样本数据和所述负样本数据，通过人工评估方式和多样本拼接的采样方式对初始的文本分类模型执行循环迭代训练，得到训练完毕后模型指标达到目标指标的文本分类模型；以及根据所述模型指标达到目标指标的文本分类模型的模型参数，生成端到端敏感文本召回模型；其中，所述端到端敏感文本召回模型已经学习得到词表召回能力。

在一种实现方式中，所述根据所述正样本数据和所述负样本数据，通过人工评估方式和多样本拼接的采样方式对初始的文本分类模型执行循环迭代训练，包括：将所述正样本数据和所述负样本数据作为训练样本并划分成训练集和验证集；根据所述训练集和所述验证集，对文本分类模型进行训练，以得到最优模型；获取测试集，并根据所述测试集对所述最优模型进行评估，得到模型评估结果；根据所述模型评估结果和所述测试集，通过人工评估方式和多样本拼接的采样方式更新所述训练样本；将更新后的训练样本重新划分成训练集和验证集，并执行所述根据所述训练集和所述验证集，对文本分类模型进行训练，以得到最优模型的步骤，直至训练完毕后模型指标达到目标指标。

在一种可选地实现方式中，所述测试集中包括召回样本和第二随机文本语料；所述根据所述测试集对所述最优模型进行评估，得到模型评估结果，包括：将所述测试集之中所述召回样本输入至所述最优模型，获得所述最优模型输出的第一预测结果；根据所述第一预测结果和所述召回样本对应的真实标签信息，确定所述最优模型的召回率；将所述测试集之中所述第二随机文本语料输入至所述最优模型，获得所述最优模型输出的第二预测结果；根据所述第二预测结果和所述第二随机文本语料对应的真实标签信息，确定所述最优模型的精确率。

可选地，所述根据所述模型评估结果和所述测试集，通过人工评估方式和多样本拼接的采样方式更新所述训练样本，包括：响应于所述召回率小于第一阈值，获取对所述第一预测结果中预测为负例的第一人工评估结果，并基于所述第一人工评估结果，将所述召回样本中被误预测为负例的样本加入待更新样本集中；和/或，响应于所述精确率小于第二阈值，获取对所述第二预测结果中预测为正例的第二人工评估结果，并基于所述第二人工评估结果，将所述第二随机文本语料中被误预测为正例的文本语料加入待更新样本集中；将所述待更新样本集之中每N个样本拼接成一个样本，并将经过拼接处理后得到的样本更新至所述训练样本；其中，所述N为大于1的整数。

可选地，所述N为3。