[发明专利]一种确定敏感信息的方法和装置

说明书

本申请公开了一种确定敏感信息的方法和装置，对于与第一敏感词匹配的第一信息，结合第一信息的上下文，对第一信息进行分析，通过判断第一信息是否具有敏感语义来判断待检测信息是否为敏感信息，而不是仅仅根据第一信息的字面上是否包括敏感词来判断，提高了敏感信息的过来准确性，提高了用户体验。具体的，可以在待检测信息中查找与第一敏感词匹配的信息，若查找到第一信息与第一敏感词匹配，则在知识图谱中查找第一信息匹配的第一实体，第一实体具有敏感语义，在知识图谱中查找与待检测信息中除第一信息之外的其他信息匹配的第二实体。根据第二实体与第一实体在知识图谱中的关系，确定待检测信息是否为敏感信息。

技术领域

本申请涉及信息处理技术领域，特别是涉及一种确定敏感信息的方法和装置。

背景技术

随着互联网的发展，许多网络服务都为用户提供了发表言论的空间，因此，大量的用户言论被发布到互联网上。在这些用户言论中，往往充斥着一些涉黄、涉黑、政治反动等不法言论。为了对互联网上的不法言论进行监督控制，目前通常采用敏感词过滤的方式查找互联网上可能属于不法言论的敏感信息。对于一段网络信息来说，若该网络信息在字面上包含了敏感词，则该网络信息会被认定成敏感信息。但是，对有些网络信息来说，虽然该网络信息的字面包含了敏感词，但实际上该网络信息在语义上却并没有体现该敏感词所具有的敏感语义。因此，许多并不属于敏感信息的网络信息往往也被当作敏感信息进行了过滤。这不仅导致了敏感信息的过滤不够准确，而且也造成了不好的用户体验。

发明内容

本申请所要解决的技术问题是，提供一种确定敏感信息的方法和装置，以能够更准确地过滤敏感信息，提升用户体验。

第一方面，本申请实施例提供了一种确定敏感信息的方法，包括：

在待检测信息中查找与第一敏感词匹配的信息；

若查找到第一信息与所述第一敏感词匹配，在知识图谱中查找所述第一信息匹配的第一实体以及所述待检测信息中除所述第一信息之外的其他信息匹配的第二实体，其中，所述第一实体具有敏感语义；

根据所述第二实体与所述第一实体在所述知识图谱中的关系，确定所述待检测信息是否为敏感信息。

可选的，所述根据所述第二实体与所述第一实体在所述知识图谱中的关系，确定所述待检测信息是否为敏感信息，包括：

若所述第二实体中存在与所述第一实体在所述知识图谱中具有属性关系的实体，确定所述待检测信息为敏感信息。

可选的，所述根据所述第二实体与所述第一实体在所述知识图谱中的关系，确定所述待检测信息是否为敏感信息，包括：

若所述第一信息在所述知识图谱中还匹配第三实体且所述第三实体不具有敏感语义，在所述第二实体中分别查找与所述第一实体在所述知识图谱中具有属性关系的第四实体以及与所述第三实体在所述知识图谱中具有属性关系的第五实体；

根据所述第四实体的数量及所述第五实体的数量，确定所述待检测信息是否为敏感信息。

可选的，所述根据所述第四实体的数量及所述第五实体的数量，确定所述待检测信息是否为敏感信息，具体为：

根据所述第四实体的数量、所述第五实体的数量、所述第二实体的数量、所述知识图谱中与所述第一实体具有属性关系的实体数量、所述知识图谱中与所述第三实体具有属性关系的实体数量以及所述知识图谱中的实体数量，确定所述待检测信息是否为敏感信息。

可选的，所述方法还包括：

在所述待检测信息中查找与第二敏感词匹配的信息；

若查找到第二信息与所述第二敏感词匹配，确定所述待检测信息为敏感信息；

其中，所述第一敏感词与所述第二敏感词为两个不同类别的敏感词。