[发明专利]一种敏感信息屏蔽方法和服务端

说明书

技术领域

本发明涉及网络技术领域，尤其涉及一种敏感信息屏蔽方法和服务端。

背景技术

网络社交是人们当前主要的应用场景，例如：发布信息、评论信息或者获取他人分享的信息等等。然而，目前在网络社交过程中可能会出现各种广告、色情暴力或者政治敏感词等敏感信息，严重的污染了健康的社交圈，影响到用户体验。然而，目前主要是通过人工对用户请求的信息(例如：用户发布或者获取的信息)进行人工分析，以确定用户请求的信息是否为敏感信息，若是敏感信息，则不允许用户的请求，例如：不允许用户发布该信息。而人工分析的效率比较低，处理有邂逅，从而导致敏感信息屏蔽的效果比较差。

发明内容

本发明实施例提供了一种敏感信息屏蔽方法和服务端，可以提高敏感信息屏蔽的效果。

第一方面，本发明实施例提供一种敏感信息屏蔽方法，包括：

服务端获取用户端请求的信息内容；

所述服务端通过构建的敏感词词库，对所述信息内容进行敏感分析；

若所述信息内容为一级敏感信息，则所述服务端屏蔽所述信息内容；

若所述信息内容为二级敏感信息，则所述服务端通过人工系统对所述信息内容进行分析，若所述人工系统对所述信息内容分析结果为不通过，则屏蔽所述信息内容；

若所述信息内容不为敏感信息，或者所述人工系统对所述信息内容分析结果为通过，则所述服务端响应所述用户端针对信息内容的请求。

第二方面，本发明实施例提供一种服务端，包括：

获取模块，用于获取用户端请求的信息内容；

敏感分析模块，用于通过构建的敏感词词库，对所述信息内容进行敏感分析；

第一屏蔽模块，用于若所述信息内容为一级敏感信息，则屏蔽所述信息内容；

第二屏蔽模块，用于若所述信息内容为二级敏感信息，则通过人工系统对所述信息内容进行分析，若所述人工系统对所述信息内容分析结果为不通过，则屏蔽所述信息内容；

响应模块，用于若所述信息内容不为敏感信息，或者所述人工系统对所述信息内容分析结果为通过，则响应所述用户端针对信息内容的请求。

本发明实施例中，服务端获取用户端请求的信息内容；所述服务端通过构建的敏感词词库，对所述信息内容进行敏感分析；若所述信息内容为一级敏感信息，则所述服务端屏蔽所述信息内容；若所述信息内容为二级敏感信息，则所述服务端通过人工系统对所述信息内容进行分析，若所述人工系统对所述信息内容分析结果为不通过，则屏蔽所述信息内容；若所述信息内容不为敏感信息，或者所述人工系统对所述信息内容分析结果为通过，则所述服务端响应所述用户端针对信息内容的请求。这样可以一级敏感信息直接屏蔽，而二级敏感信息通过人工系统进行分析，从而可以提高敏感信息屏蔽的效果。

附图说明

为了更清楚地说明本发明实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是本发明实施例可以应用于网络系统的结构图；

图2是本发明实施例的一种敏感信息屏蔽方法的流程示意图；

图3是本发明实施例的一种敏感信息屏蔽的举例示意图；

图4是本发明实施例的另一种敏感信息屏蔽方法的流程示意图；

图5是本发明实施例的另一种敏感信息屏蔽的举例示意图；

图6是本发明实施例的另一种敏感信息屏蔽的举例示意图；

图7是本发明实施例提供的一种服务端的结构图示意图；

图8是本发明实施例提供的另一种服务端的结构图示意图；

图9是本发明实施例提供的另一种服务端的结构图示意图；

图10是本发明实施例提供的另一种服务端的结构图示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。