[发明专利]一种确定敏感信息的方法、装置、设备及存储介质

说明书

本申请公开了一种确定敏感信息的方法、装置、设备及存储介质，包括：获取文本信息中的多个目标分词，并确定该多个目标分词中各个分词分别对应的敏感场景，然后，根据各个敏感场景分别对应的分词数量，可以确定文本信息是否为敏感信息。这样，即使属于敏感信息的文本信息中不包含显著敏感词，也可以是根据文本信息中各个分词对应的敏感场景来识别出该敏感信息。

技术领域

本申请涉及信息处理技术领域，特别是涉及一种确定敏感信息的方法、装置、设备及存储介质。

背景技术

随着互联网的发展，网络上存在大量的文本信息，如可以是网民针对于一些事件、新闻等表达自己的意见与看法的文章等。而这些文本信息中可能存在部分敏感信息，诸如暴力、政治偏见等敏感信息。为了净化网络环境，通常需要对网络中的一些敏感信息进行过滤。

目前，通常是利用一些能够显著敏感词来确定文本信息是否为敏感信息。当文本信息中包含该显著敏感词时，则可以判定该文本信息为敏感信息，并从众多文本信息中过滤掉该敏感信息。但是，实际应用中，基于显著敏感词从文本信息中过滤出敏感信息的效果较差，剩余的文本信息中仍然存在大量敏感信息无法被过滤。

发明内容

本申请实施例提供了一种确定敏感信息的方法及装置，以确定出文本信息中的敏感信息，从而实现对文本信息中的敏感信息的过滤。

第一方面，本申请实施例提供了一种确定敏感信息的方法，所述方法包括：

获取文本信息中的多个目标分词；

确定所述多个目标分词中各个分词分别对应的敏感场景；

根据各个敏感场景分别对应的分词数量，确定所述文本信息是否为敏感信息。

在一种可能的实施方式中，所述根据各个敏感场景分别对应的分词数量，确定所述文本信息是否为敏感信息，包括：

确定第一分词所属的第一目标敏感场景，所述第一分词为所述多个目标分词中的任意一个分词；

确定与所述第一目标敏感场景具有依赖关系的第二目标敏感场景，所述第二目标敏感场景包括一个或者多个敏感场景；

确定所述目标分词集合中属于所述第二目标敏感场景的分词的数量，作为所述第一分词对应的依赖分词数量；

计算所述多个目标分词中各个分词对应的依赖分词数量之和，得到第一和值；

当所述第一和值大于敏感阈值，则确定所述文本信息为敏感信息。

在一种可能的实施方式中，所述方法还包括：

计算所述多个目标分词中各个分词对应的第二目标敏感场景的数量之和，得到第二和值；

根据所述第二和值，计算出所述敏感阈值。

在一种可能的实施方式中，所述根据所述第二和值，计算出所述敏感阈值，包括：

根据所述第二和值以及预设调节因子，计算出所述敏感阈值。

在一种可能的实施方式中，所述获取文本信息中的多个目标分词，包括：

对所述文本信息进行分词，得到分词集合，所述分词集合包括多个分词；

将所述分词集合中的分词与第一预设词库中的非显著敏感词进行匹配，并将匹配成功的分词确定为所述目标分词，得到所述多个目标分词。

在一种可能的实施方式中，所述确定所述多个目标分词中各个分词分别对应的敏感场景，包括：

根据预先建立的分词与敏感场景的对应关系，确定与所述多个目标分词中各个分词分别对应的敏感场景。

在一种可能的实施方式中，所述方法还包括：