[发明专利]敏感图片检测方法、装置、存储介质及终端

说明书

本发明实施例提供一种敏感图片检测方法、装置、存储介质及终端，所述方法包括：将待检测图片输入敏感图片分类模型，确定所述待检测图片的图片类别，若所述图片类别为敏感图片类别，则确定所述待检测图片为敏感图片；若所述图片类别为文档类别，则提取所述待检测图片中的文字内容，将所述文字内容输入敏感词检测模型，得到敏感词检测结果，若根据所述敏感词检测结果确定所述待检测图片的图片类别为敏感文档类别，则确定所述待检测图片为敏感图片。本发明通过图像敏感信息检测和文本敏感信息检测相结合的方法，对移动设备中的敏感图片进行检测，可以高效准确的识别敏感图片。

技术领域

本发明设涉及图像处理、计算机视觉、机器学习、自然语言处理等技术领域，尤其涉及一种敏感图片检测方法、装置、存储介质及终端。

背景技术

随着计算机技术的发展，无线通信技术已经从4G时代迈向5G 时代，相比于过去，移动通信也逐渐取代PC成为人们远程沟通和娱乐的主要方式，大量的各种各样的图片在移动设备上通过互联网进行传输，其中可能参杂着各种敏感图片，而用户在浏览图片时，很难识别大量的图片中是否包含敏感图片或图片内文字是否包含敏感内容，因此移动端敏感图片的检测面临着前所未有的挑战，需要提供一种能够将图片提取内容并识别是否为敏感图片的方法。如今移动设备硬件水平迅猛发展，大规模GPU的并行计算能力飞速提高，进而使得移动端应用机器学习技术解决计算机视觉中的问题成为可能。

发明内容

本发明实施例提供了一种敏感图片检测方法、装置、存储介质及终端，可以高效准确的识别移动设备中存在的敏感图片。

第一方面，本发明实施例提供了一种敏感图片检测方法，包括：

将待检测图片输入敏感图片分类模型，确定所述待检测图片的图片类别，若所述图片类别为敏感图片类别，则确定所述待检测图片为敏感图片；

若所述图片类别为文档类别，则提取所述待检测图片中的文字内容，将所述文字内容输入敏感词检测模型，得到敏感词检测结果，若根据所述敏感词检测结果确定所述待检测图片的图片类别为敏感文档类别，则确定所述待检测图片为敏感图片。

第二方面，本发明实施例提供了一种敏感图片检测装置，包括：

第一检测模块，用于将待检测图片输入敏感图片分类模型，确定所述待检测图片的图片类别，若所述图片类别为敏感图片类别，则确定所述待检测图片为敏感图片；

第二检测模块，用于若所述图片类别为文档类别，则提取所述待检测图片中的文字内容，将所述文字内容输入敏感词检测模型，得到敏感词检测结果，若根据所述敏感词检测结果确定所述待检测图片的图片类别为敏感文档类别，则确定所述待检测图片为敏感图片。

第三方面，本发明实施例提供一种计算机可读存储介质，其上存储有计算机程序，上述计算机程序被处理器执行时实现上述第一个方面所述的方法步骤。

第四方面，本发明实施例提供一种终端，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，所述处理器执行所述计算机程序时实现上述第一个方面所述的方法步骤。

本发明实施例提供了一种敏感图片检测方法，包括：将待检测图片输入敏感图片分类模型，确定所述待检测图片的图片类别，若所述图片类别为敏感图片类别，则确定所述待检测图片为敏感图片；若所述图片类别为文档类别，则提取所述待检测图片中的文字内容，将所述文字内容输入敏感词检测模型，得到敏感词检测结果，若根据所述敏感词检测结果确定所述待检测图片的图片类别为敏感文档类别，则确定所述待检测图片为敏感图片。本发明通过图像敏感信息检测和文本敏感信息检测相结合的方法，对移动设备中的敏感图片进行检测，可以高效准确的识别敏感图片。

附图说明