[发明专利]一种敏感图片检测方法、装置及电子设备

权利要求书

1.一种敏感图片检测方法，其特征在于，包括：

获取网络图片数据与网络敏感词，分别构建图片数据集与动态敏感词库，所述图片数据包括图像以及相应的图像描述；

构建图片语义描述模型，并利用所述图片数据集对所述图片语义描述模型进行训练优化；

利用优化后的所述图片语义描述模型对待测目标图片进行处理，确定所述待测目标图片相应的图像语义信息；

根据动态敏感词库对所述图像语义信息进行敏感信息检测，确定所述待测目标图片的敏感度值，根据所述敏感度值对所述待测目标图片进行检测过滤；

其中，所述图片语义描述模型包括编码模块与解码模块；所述编码模块采用深度卷积神经网络结构，用于接收输入图像，提取所述输入图像的图像特征，并将所述图像特征发送至所述解码模块；所述解码模块采用长短期记忆神经网络结构，用于接收所述编码模块提取到的所述图像特征，并对所述图像特征进行解码翻译，确定与所述输入图像对应的输出语义；利用所述图片数据集对所述图片语义描述模型进行训练优化，包括：将所述图片数据集中的图像作为输入图像输入所述图片语义描述模型，并将所述图像相应的图像描述与所述图片语义描述模型的输出语义进行对比；根据对比结果对所述图片语义描述模型的网络学习参数进行调整，直至所述图片语义描述模型的输出语义满足描述标准；

其中，所述根据动态敏感词库对所述图像语义信息进行敏感信息检测，确定所述待测目标图片的敏感度值，包括：根据所述动态敏感词库构建敏感词前缀树；采用基于前缀树的敏感过滤算法，将所述图像语义信息的多个语义分词与所述敏感词前缀树进行匹配；根据匹配结果计算确定所述待测目标图片的敏感度值；

所述敏感度值：

其中，F表示所述待测目标图片的敏感度值，n表示所述图片语义信息的多个所述语义分词中包含敏感词的语义分词的个数，f_i表示包含敏感词的第i个语义分词相应敏感词的词频因子，top_i表示所述敏感词的主题因子，lev_i表示所述敏感词的敏感级别因子，δ，ω，σ分别表示词频调节参数、主题调节参数与敏感级别调节参数；

所述根据所述敏感度值对所述待测目标图片进行检测过滤，包括：

设定敏感阈值μ，将所述待测目标图片的所述敏感度值F与所述敏感阈值μ进行比较；

若F≥μ，则所述待测目标图片为敏感图片，对所述待测目标图片进行屏蔽；

若F，则所述待测目标图片为常规图片，对所述待测目标图片进行正常显示。

2.根据权利要求1所述的方法，其特征在于，构建动态敏感词库，包括：

采集当前网络中的敏感词数据，将所述敏感词数据录入所述动态敏感词库，所述敏感词数据包括敏感词以及相应的敏感因子；

设定更新周期，按照所述更新周期对所述动态敏感词库进行增量更新。

3.根据权利要求2所述的方法，其特征在于，所述按照所述更新周期对所述动态敏感词库进行增量更新，包括：

在每次更新时，获取更新时刻下网络中的敏感词数据；

将更新时刻下网络中的敏感词数据与所述动态敏感词库中的敏感词数据进行比对；

根据比对结果，采用确定有穷自动机算法，确定更新前的初态数据与更新后的终态数据，并确定所述终态数据与所述初态数据间的连接关系；

根据所述连接关系将所述终态数据录入所述动态敏感词库。

4.根据权利要求1所述的方法，其特征在于，所述利用优化后的所述图片语义描述模型对待测目标图片进行处理，确定所述待测目标图片相应的图像语义信息，包括：

将所述待测目标图片输入优化后的所述图片语义描述模型，经所述图片语义描述模型处理后，所述图片语义描述模型的输出结果进行去冗余操作，确定初始语义信息；

采用基于词典的词频分词技术对所述初始语义信息进行分词处理，得到用以组成所述初始语义信息的多个语义分词；

所述图像语义信息包括所述初始语义信息与所述语义分词。