[发明专利]违规文本的识别方法及装置、存储介质、电子装置

权利要求书

1.一种违规文本的识别方法，其特征在于，包括：

获取待识别的目标文本；

采用敏感词字符串和机器学习模型识别所述目标文本是否为违规文本；

输出所述目标文本的识别结果，其中，所述识别结果用于表征所述目标文本是否为违规文本、以及所述目标文本的违规类型和所述识别结果的置信度。

2.根据权利要求1所述的方法，其特征在于，采用敏感词字符串和识别模型识别所述目标文本是否为违规文本包括：

对所述目标文本进行预处理，得到符合预设条件的第一文本；

判断所述第一文本是否命中预设白名单；

若所述第一文本命中所述预设白名单，确定所述目标文本不是违规文本，若所述第一文本未命中所述预设白名单，采用多模字符串匹配算法识别所述第一文本是否为违规文本；

若多模字符串匹配算法识别所述目标文本不是违规文本，采用机器学习模型识别所述目标文本是否为违规文本。

3.根据权利要求2所述的方法，其特征在于，对所述目标文本进行预处理，得到符合预设条件的第一文本，包括以下至少之一：

去除所述目标文本中的无效乱码，得到第一文本；

清洗所述目标文本中的预定符号，得到第一文本；

对所述目标文本进行英文大小写转换，得到第一文本；

对所述目标文本进行数字统一转换，得到第一文本；

对所述目标文本进行中文繁简体转换，得到第一文本；

对所述目标文本进行语种转换，得到第一文本。

4.根据权利要求2所述的方法，其特征在于，采用多模字符串匹配算法识别所述第一文本是否为违规文本包括：

采用多个单词查找树识别所述第一文本是否为违规文本，其中，每个单词查找树对应一个违规类型；

若第一单词查找树识别出所述第一文本为违规文本，根据所述第一单词查找树的违规类型确定所述第一文本的违规类型。

5.根据权利要求2所述的方法，其特征在于，采用机器学习模型识别所述目标文本是否为违规文本包括：

对所述第一文本进行分词，得到若干个词语数组；

使用词向量算法将所述若干个词语数组转换为数值矩阵；

使用卷积神经网络CNN模型对所述数值矩阵进行分类判别，得到识别结果，其中，所述CNN模型包括多个二分类模型，每个二分类模型对应一个违规类型。

6.根据权利要求5所述的方法，其特征在于，使用CNN模型对所述数值矩阵进行分类判别包括：

抽取所述数值矩阵中的语义特征；

使用所述多个二分类模型分别对所述语义特征进行分类判别。

7.根据权利要求1所述的方法，其特征在于，在采用敏感词字符串和机器学习模型识别所述目标文本是否为违规文本之后，所述方法还包括：

若未识别出所述目标文本是否为违规文本，通过人机交互界面接收所述目标文本的标注数据，其中，所述标注数据用于表征所述目标文本是否为违规文本、以及所述目标文本的违规类型；

输出所述标注数据，并使用所述标注数据作为训练样本或测试样本迭代训练所述机器学习模型。

8.一种违规文本的识别装置，其特征在于，包括：

获取模块，用于获取待识别的目标文本；

识别模块，用于采用敏感词字符串和机器学习模型识别所述目标文本是否为违规文本；

输出模块，用于输出所述目标文本的识别结果，其中，所述识别结果用于表征所述目标文本是否为违规文本、以及所述目标文本的违规类型和所述识别结果的置信度。

9.一种存储介质，其特征在于，所述存储介质中存储有计算机程序，其中，所述计算机程序被设置为运行时执行权利要求1至7任一项中所述的方法。

10.一种电子装置，包括存储器和处理器，其特征在于，所述存储器中存储有计算机程序，所述处理器被设置为运行所述计算机程序以执行权利要求1至7任一项中所述的方法。