[发明专利]敏感图片检测方法、装置、存储介质及终端

权利要求书

1.一种敏感图片检测方法，其特征在于，包括：

将待检测图片输入敏感图片分类模型，确定所述待检测图片的图片类别，若所述图片类别为敏感图片类别，则确定所述待检测图片为敏感图片；

若所述图片类别为文档类别，则提取所述待检测图片中的文字内容，将所述文字内容输入敏感词检测模型，得到敏感词检测结果，若根据所述敏感词检测结果确定所述待检测图片的图片类别为敏感文档类别，则确定所述待检测图片为敏感图片。

2.根据权利要求1所述方法，其特征在于，所述敏感图片分类模型通过如下方法训练得到，包括：

确定图片数据集，将所述图片数据集中的每张图片进行标注分类，确定所述每张图片的图片类别；

将所述每张图片转换为预设格式，将转换格式后的所述图片数据集分为训练集和测试集；

将所述训练集输入设定的机器学习模型中进行训练，得到敏感图片分类训练模型；

将所述测试集输入所述敏感图片分类训练模型，得到所述测试集中每张图片的预测类别，将所述每张图片的预测类别与所述每张图片的图片类别进行对比，得到所述敏感图片分类训练模型的准确率；

当所述敏感图片分类训练模型的准确率达到最优时，得到所述敏感图片分类模型。

3.根据权利要求2所述方法，其特征在于，所述将所述图片数据集中的每张图片进行标注分类，确定所述每张图片的图片类别，包括：

将所述图片数据集中所有图片的图片类别分为n种，n1，且n为整数，分别为A1、A2、…、An，其中所述A1、A2、…、An-2归为敏感类别、所述An-1归为文档类别、所述An归为其他类别。

4.根据权利要求3所述方法，其特征在于，所述将待检测图片输入敏感图片分类模型，确定所述待检测图片的图片类别，包括：

将所述待检测图片转换为预设格式，将转换格式后的所述待检测图片输入所述敏感图片分类模型，得到所述待检测图片与预设各个图片类别的相似度；

将各个相似度与预设图片类别的预设阈值进行对比，若某个相似度大于或等于其对应图片类别的预设阈值，则确定所述待检测图片为所述对应图片类别。

5.根据权利要求2至4任一项所述方法，其特征在于，所述将所述每张图片转换为预设格式，包括：

将所述每张图片压缩为预设大小，将压缩后的所述每张图片转换为三通道像素值，并经过归一化处理，得到所述每张图片的预设格式。

6.根据权利要求1所述方法，其特征在于，所述将所述文字内容输入敏感词检测模型，得到敏感词检测结果，若根据所述敏感词检测结果确定所述待检测图片的图片类别为敏感文档类别，则确定所述待检测图片为敏感图片，包括：

通过预设算法确定所述文字内容中的每个字符串在预设敏感词词典中的位置；

利用敏感词检测模型将所述每个字符串与所述预设敏感词词典中对应位置的敏感词进行对比，若所述文字内容包含所述预设敏感词词典中的任一敏感词，则确定所述待检测图片的图片类别为敏感文档类别，所述待检测图片为敏感图片。

7.一种敏感图片检测装置，其特征在于，包括：

第一检测模块，用于将待检测图片输入敏感图片分类模型，确定所述待检测图片的图片类别，若所述图片类别为敏感图片类别，则确定所述待检测图片为敏感图片；

第二检测模块，用于若所述图片类别为文档类别，则提取所述待检测图片中的文字内容，将所述文字内容输入敏感词检测模型，得到敏感词检测结果，若根据所述敏感词检测结果确定所述待检测图片的图片类别为敏感文档类别，则确定所述待检测图片为敏感图片。

8.一种计算机可读存储介质，其上存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至6中任一项所述方法。

9.一种终端，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至6中任一项所述方法。