[发明专利]违规文本的识别方法及装置、存储介质、电子装置

说明书

本发明提供了一种违规文本的识别方法及装置、存储介质、电子装置，其中，该方法应用于历史数据之间的关联展示，包括：获取待识别的目标文本；采用敏感词字符串和机器学习模型识别所述目标文本是否为违规文本；输出所述目标文本的识别结果，其中，所述识别结果用于表征所述目标文本是否为违规文本、以及所述目标文本的违规类型和所述识别结果的置信度。通过本发明，解决了相关技术违规文本的漏判率高的技术问题，提高了违规文本的识别准确度和识别率。

技术领域

本发明涉及大数据领域，具体而言，涉及一种违规文本的识别方法及装置、存储介质、电子装置。

背景技术

相关技术中，互联网时代，海量用户产生了大量文本内容，丰富了的互联网生活，但其中也充斥着各种违规的垃圾文本信息，这些垃圾文本散发虚假广告、涉黄涉暴，影响用户体验，不利于产品的健康发展，更有甚者触及政策法规，有着极大的危害。

相关技术中，主要采取在互联网产品中加入敏感词匹配逻辑的方式，通过对用户发出的文本进行敏感词匹配，若匹配上则系统禁止文本发布或对敏感词部分词语进行处理后再发布。相关技术方案的缺点在于：敏感词匹配简单粗暴，其基本的思路是关键字匹配，当敏感词配置比较简单，就会造成有些正常文本由于语义衔接等原因也会被匹配命中，误判率高；由于文本变种多样，当垃圾文本被敏感词匹配命中，不法用户可以很快试探出另一种表述方式，成功绕过敏感词，漏判率高；由于项目众多，目前大部分项目的敏感词重复比例很高，需要重复人工维护敏感词库，并且当发现变种垃圾文本，则需要及时维护词库，才能快速响应，敏感词库维护成本高。可见，相关技术的方案误判及漏判率高，敏感词库的维护成本高，不能够很好的对垃圾文本进行识别。

针对相关技术中存在的上述问题，目前尚未发现有效的解决方案。

发明内容

本发明实施例提供了一种违规文本的识别方法及装置、存储介质、电子装置。

根据本发明的一个实施例，提供了一种违规文本的识别方法，包括：获取待识别的目标文本；采用敏感词字符串和机器学习模型识别所述目标文本是否为违规文本；输出所述目标文本的识别结果，其中，所述识别结果用于表征所述目标文本是否为违规文本、以及所述目标文本的违规类型和所述识别结果的置信度。

根据本发明的另一个实施例，提供了一种违规文本的识别装置，包括：获取模块，用于获取待识别的目标文本；识别模块，用于采用敏感词字符串和机器学习模型识别所述目标文本是否为违规文本；输出模块，用于输出所述目标文本的识别结果，其中，所述识别结果用于表征所述目标文本是否为违规文本、以及所述目标文本的违规类型和所述识别结果的置信度。

根据本发明的又一个实施例，还提供了一种存储介质，所述存储介质中存储有计算机程序，其中，所述计算机程序被设置为运行时执行上述任一项方法实施例中的步骤。

根据本发明的又一个实施例，还提供了一种电子装置，包括存储器和处理器，所述存储器中存储有计算机程序，所述处理器被设置为运行所述计算机程序以执行上述任一项方法实施例中的步骤。

通过本发明，获取待识别的目标文本，然后采用敏感词字符串和机器学习模型识别目标文本是否为违规文本，最后输出目标文本的识别结果，通过使用静态的敏感词字符串结合动态的机器学习模型进行文本识别，并输出包括违规类型和置信度的识别结果，解决了相关技术违规文本的漏判率高的技术问题，提高了违规文本的识别准确度和识别率。

附图说明

此处所说明的附图用来提供对本发明的进一步理解，构成本申请的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：

图1是本发明实施例的一种违规文本的识别服务器的硬件结构框图；

图2是根据本发明实施例的一种违规文本的识别方法的流程图；

图3是本发明实施例的系统架构图；