[发明专利]文本生成类别分析方法、装置、计算机设备及存储介质

说明书

本申请涉及人工智能技术领域，特别是涉及一种文本生成类别分析方法、装置、计算机设备及存储介质。所述方法包括：对待分析文本进行分词处理，得到待分析文本的至少两个分词结果；基于目标分类模型，根据至少两个分词结果，确定待分析文本对应的预测生成类别；确定各分词结果对应的重要性指标SHAP值，并基于各分词结果对应的SHAP值确定各分词结果对应的预测生成类别；基于待分析文本对应的预测生成类别，以及各分词结果对应的预测生成类别，确定待分析文本所属的目标生成类别。本申请实现了准确确定待分析文本的目标生成类别，防止语言模型生成的虚假文本影响用户的体验。

技术领域

本申请涉及人工智能技术领域，特别是涉及一种文本生成类别分析方法、装置、计算机设备及存储介质。

背景技术

随着语言模型的不断发展，语言模型生成的文本与人工生成的文本相似度也越来越高，并且，通过进一步让语言模型学习人工生成文本的修辞方式，能够再次提高语言模型生成文本与人工生成文本的相似度。

由于语言模型生成文本的过程中缺乏严谨真实的参考依据，因此，语言模型生成的文本多为无意义的虚假文本，目前在越来越多的场景中，出现了语言模型生成的文本中存在大量的虚假文本，不仅影响其他用户的体验感，还导致用户无法根据虚假文本进行有效的判断，因此，如何识别文本的生成类别(如是通过人工方式生成，还是通过语义模型生成的)是目前急需解决的问题。

发明内容

基于此，有必要针对上述技术问题，提供一种能够识别文本的生成类别的文本生成类别分析方法、装置、计算机设备及存储介质。

第一方面，本申请提供了一种文本生成类别分析方法。该方法包括：

对待分析文本进行分词处理，得到待分析文本的至少两个分词结果；

基于目标分类模型，根据至少两个分词结果，确定待分析文本对应的预测生成类别；

确定各分词结果对应的重要性指标SHAP值，并基于各分词结果对应的SHAP值确定各分词结果对应的预测生成类别；

基于待分析文本对应的预测生成类别，以及各分词结果对应的预测生成类别，确定待分析文本所属的目标生成类别。

在其中一个实施例中，确定各分词结果对应的重要性指标SHAP值，并基于各分词结果对应的SHAP值确定各分词结果对应的预测生成类别，包括：

对各分词结果进行混淆度评估，确定各分词结果对应的混淆度；

以各分词结果对应的混淆度为基础，对待分析文本的各分词结果进行重要性评估，确定各分词结果对应的重要性指标SHAP值，并基于各分词结果对应的SHAP值确定各分词结果对应的预测生成类别。

在其中一个实施例中，基于各分词结果对应的SHAP值确定各分词结果对应的预测生成类别，包括：

若分词结果对应的SHAP值为正值，则确定该分词结果对应的预测生成类别为模型生成；

若分词结果对应的SHAP值为负值，则确定该分词结果对应的预测生成类别为人工生成。

在其中一个实施例中，基于待分析文本对应的预测生成类别，以及各分词结果对应的预测生成类别，确定待分析文本所属的目标生成类别，包括：

从各分词结果中筛选SHAP值的指标绝对值大于预设阈值的至少一个目标分词；

根据各目标分词对应的预测生成类别和待分析文本对应的预测生成类别，从各目标分词中确定与待分析文本具有相同预测生成类别的第一分词，以及从各目标分词中与待分析文本具有不同预测生成类别的第二分词；

基于第一分词的数量与第二分词的数量，确定待分析文本所属的目标生成类别。

在其中一个实施例中，训练得到目标分类模型的过程包括：