[发明专利]文本风险检测方法、装置、电子设备及存储介质

权利要求书

1.一种文本风险检测方法，包括：

对待检测文本进行多个风险属性的二分类处理，得到待检测文本的风险属性特征，所述多个风险属性为使用文本聚类算法对文本样本进行聚类得到的；

将待检测文本编码为隐向量；

提取所述隐向量的文本语义特征；

根据所述风险属性特征，从所述隐向量中提取与风险属性特征相关联的特征，作为属性感知特征；

根据所述文本语义特征和所述属性感知特征，确定所述待检测文本的风险等级。

2.根据权利要求1所述的方法，所述对待检测文本进行多个风险属性的二分类处理，得到待检测文本的风险属性特征，包括：

将所述待检测文本输入训练完成的风险属性聚类模型，通过所述风险属性聚类模型对待检测文本进行多个风险属性的二分类处理，得到所述待检测文本的风险属性特征。

3.根据权利要求2所述的方法，在所述将所述待检测文本输入训练完成的风险属性聚类模型之前，还包括：

获取待聚类的类别数量和文本样本；

根据所述类别数量和文本样本，对基于文本聚类算法的风险属性聚类模型进行训练，以将所述文本样本聚类为所述类别数量的簇，并得到每个簇的中心点；

将每个簇作为一个风险属性，并将簇的中心点作为风险属性的中心点，得到所述类别数量的风险属性。

4.根据权利要求3所述的方法，所述通过所述风险属性聚类模型对待检测文本进行多个风险属性的二分类处理，得到所述待检测文本的风险属性特征，包括：

通过风险属性聚类模型确定待检测文本与每个风险属性的中心点的距离；

根据所述距离和预设阈值，对待检测文本进行多个风险属性的二分类处理，得到所述待检测文本的风险属性特征。

5.根据权利要求1-4任一项所述的方法，所述根据所述风险属性特征，从所述隐向量中提取与风险属性特征相关联的特征，作为属性感知特征，包括：

根据所述风险属性特征，通过注意力机制从所述隐向量中提取与风险属性特征相关联的特征，作为属性感知特征。

6.根据权利要求1-4任一项所述的方法，提取所述向量矩阵的文本语义特征，包括：

对所述隐向量进行池化处理，以提取所述隐向量的文本语义特征。

7.一种文本风险检测装置，包括：

聚类模块，用于对待检测文本进行多个风险属性的二分类处理，得到待检测文本的风险属性特征，所述多个风险属性为使用文本聚类算法对文本样本进行聚类得到的；

编码模块，用于将待检测文本编码为隐向量；

文本特征提取模块，用于提取所述隐向量的文本语义特征；

属性特征提取模块，用于根据所述风险属性特征，从所述隐向量中提取与风险属性特征相关联的特征，作为属性感知特征；

风险等级确定模块，用于根据所述文本语义特征和所述属性感知特征，确定所述待检测文本的风险等级。

8.根据权利要求7所述的装置，所述聚类模块具体用于：

将所述待检测文本输入训练完成的风险属性聚类模型，通过所述风险属性聚类模型对待检测文本进行多个风险属性的二分类处理，得到所述待检测文本的风险属性特征。

9.一种电子设备，包括存储器、处理器及存储在所述存储器上并可在处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现权利要求1至6任意一项所述的文本风险检测方法。

10.一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现权利要求1至6任意一项所述的文本风险检测方法的步骤。