[发明专利]一种文本分类变体召回的优化方法、系统、介质及设备

说明书

本发明属于文本分类领域，尤其涉及一种文本分类变体召回的优化方法、系统、介质及设备。包括：获取本体变体字映射表以及训练样本集；依次判断训练样本集中的每个字是否在本体变体字映射表中，生成判断结果，根据判断结果生成变体文本；将在训练样本集中选取的第一集合作为本体样本输入至基础模型中，得到第一输出结果；将变体文本输入至基础模型中，得到第二输出结果；根据第一输出结果以及第二输出结果确定KL散度，基于KL散度调整基础模型的分类损失函数，基于调整后的分类损失函数优化基础模型，得到优化模型，根据优化模型完成文本分类变体召回。本发明可以有效提升文本分类模型对包含“同音”、“同形”、“同义”变体字的样本的召回率。

技术领域

本发明属于文本分类领域，尤其涉及一种文本分类变体召回的优化方法、系统、介质及设备。

背景技术

近年来，BERT模型基于Trasnformer强大的特征抽取能力，并借助预训练语言模型充分利用无标注的文本数据，已经在各类场景下的文本分类任务中取得了优异的效果。对于文本分类任务，变体文本对抗一直是其面临的一项巨大挑战。文本中掺杂的“同音”、“同形”、“同义”变体字极易导致模型无法正确识别，最终导致召回下降。因此，如何提升文本分类模型对存在“同音”、“同形”、“同义”变体字的文本的召回是一个极其值得探索的问题。

发明内容

本发明所要解决的技术问题是提供一种文本分类变体召回的优化方法、系统、介质及设备。

本发明解决上述技术问题的技术方案如下：一种文本分类变体召回的优化方法，包括：

获取本体变体字映射表以及训练样本集；

依次判断所述训练样本集中的每个字是否在所述本体变体字映射表中，生成判断结果，根据所述判断结果生成变体文本；

将在所述训练样本集中选取的第一集合作为本体样本输入至基础模型中，得到第一输出结果；

将所述变体文本输入至所述基础模型中，得到第二输出结果；

根据所述第一输出结果以及所述第二输出结果确定KL散度，基于所述KL散度调整所述基础模型的分类损失函数，基于调整后的分类损失函数优化所述基础模型，得到优化模型，根据所述优化模型完成文本分类变体召回。

本发明的有益效果是：本方法通过预设映射表以及后续的变体文本等处理，提升模型的损失函数进而提升模型的分类准确度，基于此可以有效提升文本分类模型对包含“同音”、“同形”、“同义”变体字的样本的召回率。

在上述技术方案的基础上，本发明还可以做如下改进。

进一步，所述本体变体字映射表包括：

本体字以及所述本体字对应的同音字、同形字以及同义字。

进一步，所述根据所述判断结果生成变体文本的过程为：

将判断结果为是的文本字按照预设概率替换为该文本字对应的变体字，将所有变体字生成变体文本。

进一步，所述根据所述第一输出结果以及所述第二输出结果确定KL散度的过程为：

根据所述第一输出结果确定第一分类类别概率分布，根据所述第二输出结果确定第二分类类别概率分布，基于所述第一分类类别概率分布以及所述第二分类类别概率分布确定所述KL散度。

本发明解决上述技术问题的另一种技术方案如下：一种文本分类变体召回的优化系统，包括：

获取模块用于：获取本体变体字映射表以及训练样本集；

判断模块用于：依次判断所述训练样本集中的每个字是否在所述本体变体字映射表中，生成判断结果，根据所述判断结果生成变体文本；