[发明专利]一种敏感信息的封禁方法及系统

说明书

本发明公开一种敏感信息的封禁方法及系统，所述方法包括以下步骤：获取对话信息；对对话信息进行敏感信息检测，得到对话信息对应的检测结果；当检测结果指示对话信息中包含敏感信息时，获取敏感信息对应的用户信息；将用户信息对应的用户账号进行封禁。可见，实施本发明实施例，能够检测到用户在使用社交软件进行对话过程中是否出现敏感信息，如果出现敏感信息，可以直接将输出敏感信息的用户进行封禁，从而提升了社交软件中的内容质量。

技术领域

本发明属于智能识别技术领域，尤其涉及一种敏感信息的封禁方法及系统。

背景技术

随着互联网的快速发展，越来越多的人使用社交软件进行社交，丰富了人们的日常生活，还提高了人们进行日常沟通的效率。然而，在实践中发现，人们在社交软件中交流的内容通常不受社交软件的控制，因此，用户在使用社交软件的过程中可能会遇到质量较差的内容，从而导致社交软件中的内容质量较差。

发明内容

本发明针对现有技术中存在的问题，提供一种敏感信息的封禁方法及系统，解决了社交软件中的内容质量较差的问题。

本申请第一方面公开一种敏感信息的封禁方法，所述方法包括：

获取对话信息；

对所述对话信息进行敏感信息检测，得到所述对话信息对应的检测结果；

当所述检测结果指示所述对话信息中包含敏感信息时，获取所述敏感信息对应的用户信息；

将所述用户信息对应的用户账号进行封禁。

作为一种可选的实施方式，在本发明实施例第一方面中，所述对所述对话信息进行敏感信息检测，得到所述对话信息对应的检测结果，包括：

将所述对话信息与预设的敏感词库中包含的敏感词进行对比，得到对比结果；

当所述对比结果指示所述对话信息与所述敏感词库中的任一敏感词匹配时，将所述任一敏感词确定为敏感信息，并生成与所述对话信息对应的包含所述敏感信息的检测结果。

作为一种可选的实施方式，在本发明实施例第一方面中，所述将所述对话信息与预设的敏感词库中包含的敏感词进行对比，得到对比结果之后，所述方法还包括：

当所述对比结果指示所述对话信息与所述敏感词库中的任一敏感词均不匹配时，对所述对话信息进行语义识别，得到所述对话信息对应的至少一个语义信息；

当检测到所述语义信息为敏感语义信息时，将所述敏感语义信息确定为敏感信息，并生成与所述对话信息对应的包含所述敏感信息的检测结果。

作为一种可选的实施方式，在本发明实施例第一方面中，所述获取所述敏感信息对应的用户信息之后，所述方法还包括：

检测所述敏感信息对应的敏感等级；

当所述敏感等级大于等于预设敏感等级时，获取与所述敏感等级对应的封禁模式；

所述将所述用户信息对应的用户账号进行封禁，包括：

基于所述封禁模式将所述用户信息对应的用户账号进行封禁。

作为一种可选的实施方式，在本发明实施例第一方面中，所述检测所述敏感信息对应的敏感等级之后，所述方法还包括：

当所述敏感等级小于所述预设敏感等级时，获取与所述敏感信息对应的响应模式，并生成与所述敏感信息对应的警告信息，以及执行与所述响应模式对应的操作，以及向与所述用户信息对应的终端设备发送所述警告信息，以使所述终端设备输出所述警告信息。

本申请第二方面公开一种敏感信息的封禁系统，包括：

第一获取单元，用于获取对话信息；