[发明专利]敏感图像检测方法和装置

权利要求书

1.一种敏感图像检测方法，所述方法包括：

获取对终端上传的数据进行筛选得到的待检测图像；

将所述待检测图像输入卷积神经网络模型；

获取所述卷积神经网络模型中的卷积层输出的特征图；

查找所述特征图中的最大响应值；在所述待检测图像中确定所述最大响应值对应的局部区域位置，作为候选局部敏感图像位置；所述特征图中的响应值均对应于所述待检测图像中的局部图像，所述响应值用于表示特征点的聚类程度，所述响应值越大，对应的局部图像被判定为敏感图像的概率越高；

根据所述候选局部敏感图像位置，在所述待检测图像中截取候选局部敏感图像；

将所述候选局部敏感图像输入所述卷积神经网络模型进行检测，通过所述卷积层输出所述候选局部敏感图像的特征图；对所述候选局部图像的特征图中的响应值进行二值化处理；根据经过二值化处理后的响应值，统计所述候选局部敏感图像被检测为敏感图像的概率；根据统计的概率，判断所述待检测图像是否为敏感图像；所述敏感图像是根据规定限制网络传播的图像；当所述检测结果表示所述待检测图像为所述敏感图像时，禁止网络传播。

2.根据权利要求1所述的方法，其特征在于，所述获取所述卷积神经网络模型中的卷积层输出的特征图，包括：

获取预存的卷积核集合；

在所述卷积神经网络模型中的卷积层输出的特征图中，获取与所述卷积核集合中的卷积核对应的特征图。

3.根据权利要求2所述的方法，其特征在于，所述获取待检测图像之前，还包括：

获取包括敏感样本图像和非敏感样本图像的训练样本图像集合；

将所述训练样本图像集合中的样本图像输入卷积神经网络模型；

提取所述卷积神经网络模型的卷积层输出的与各卷积核对应的特征图；

根据提取到的特征图，分别训练与所述各卷积核对应的分类器；

从训练得到的分类器中筛选出满足预设的分类性能条件的分类器；

将筛选出的分类器对应的卷积核存储为卷积核集合。

4.根据权利要求3所述的方法，其特征在于，所述从训练得到的分类器中筛选出满足预设的分类性能条件的分类器包括：

根据测试样本图像集合对训练得到的分类器进行分类测试，统计各所述分类器的分类准确度；所述测试样本图像集合包括敏感样本图像和非敏感样本图像；

将各所述分类器的分类准确度降序排序；

在训练得到的分类器中，筛选出排序靠前的预设数量的分类器。

5.根据权利要求1所述的方法，其特征在于，所述图像特征由通过卷积核对所述待检测图像的图像矩阵进行处理得到的响应值构成。

6.根据权利要求1所述的方法，其特征在于，所述根据所述候选局部敏感图像位置，在所述待检测图像中截取候选局部敏感图像，包括：

将所述待检测图像输入局部敏感图像尺寸分类器，输出候选局部敏感图像尺寸；

根据所述候选局部敏感图像位置和所述候选局部敏感图像尺寸，在所述待检测图像中截取候选局部敏感图像。

7.根据权利要求1所述的方法，其特征在于，所述将所述候选局部敏感图像输入所述卷积神经网络模型进行检测，输出所述待检测图像是否为敏感图像的检测结果，包括：

将截取的候选局部敏感图像放大至预设尺寸后，输入所述卷积神经网络模型进行检测；

当检测到放大的候选局部敏感图像为敏感图像时，判定所述待检测图像为敏感图像；

当检测到放大的候选局部敏感图像为非敏感图像时，判定所述待检测图像为非敏感图像。

8.根据权利要求1所述的方法，其特征在于，所述卷积神经网络模型中有敏感图像检测概率；所述根据统计的概率，判断所述待检测图像是否为敏感图像，包括：

将统计的概率与所述敏感图像检测概率进行比较；

若统计的概率大于所述敏感图像检测概率，则判定所述待检测图像为敏感图像；

若统计的概率小于等于所述敏感图像检测概率，则判定所述待检测图像为非敏感图像。