[发明专利]识别图像中暴恐内容的方法、装置、电子设备和存储介质

说明书

本发明实施例公开了一种识别图像中暴恐内容的方法、装置、电子设备和存储介质，方法包括：对图像进行暴恐元素检测以确定所述图像中是否包含暴恐元素；对所述图像进行场景识别以确定所述图像是否包含暴恐场景；若确定所述图像包含暴恐元素且包含暴恐场景，则确定所述图像中有暴恐内容。本公开实施例的技术方案能够提高识别准确率和计算效率。

技术领域

本发明实施例涉及网络安全技术领域，具体涉及一种识别图像中暴恐内容的方法、装置、电子设备和存储介质。

背景技术

近年来，大量境内外暴恐内容在互联网上非法传播，已经成为危害社会稳定的重大毒瘤。在面向互联网的内容监督和管理技术中，国内外都对有害内容识别进行了较为广泛和深入的研究。互联网企业也先后开发出识别暴恐信息的产品，主要采用关键字技术，或黑名单技术，即将事先已经发现有问题的网站列入被禁止访问的名单里，从而控制访问。

众所周知，随着移动通讯技术的不断深入发展，通过手机、电脑、平板等终端向用户提供的数据呈现指数级增长，因此提高处理和分析这类图片准确度和性能是非常必要的。然而，现有技术虽然已经在某些场合解决了很多重要问题，但仍存在一定的缺陷：黑名单技术是基于经验的技术，耗时耗力，在海量数据面前杯水车薪；视觉描述子技术迈出了自动检测第一步，但视觉描述子本身的表达局限性限制了在准确率上的提升；基于语义的检测方法多是基于概念的操作，因在现实实现上存在诸多阻碍，应用面非常窄。

发明内容

有鉴于此，本发明实施例提供一种识别图像中暴恐内容的方法、装置、电子设备、及存储介质，以提高识别暴恐内容的准确率。

本发明实施例的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本发明实施例的实践而习得。

在本公开的第一方面，本发明实施例提供了一种识别图像中暴恐内容的方法，包括：

对图像进行暴恐元素检测以确定所述图像中是否包含暴恐元素；

对所述图像进行场景识别以确定所述图像是否包含暴恐场景；

若确定所述图像包含暴恐元素且包含暴恐场景，则确定所述图像中有暴恐内容。

于一实施例中，在对图像进行暴恐元素检测以确定所述图像中是否包含暴恐元素之前还包括：对所述图像进行剪裁得到多个子图像，将所述图像以及所述多个子图像作为待识别图像以形成待识别图像集；

对图像进行暴恐元素检测以确定所述图像中是否包含暴恐元素包括：对所述待识别图像集所包含的多个待识别图像进行暴恐元素检测以确定所述待识别图像集中是否存在任一待识别图像包含暴恐元素；和/或

对所述图像进行场景识别以确定所述图像是否包含暴恐场景包括：对所述待识别图像集所包含的多个待识别图像进行场景识别以确定所述待识别图像集中是否存在任一待识别图像包含暴恐场景。

于一实施例中，所述暴恐元素包括具有暴恐因素的实物、具有暴恐因素的人物形象、以及具有暴恐因素的台标/标语。

于一实施例中，所述具有暴恐因素的实物包括枪支、刀具、旗帜、具有爆炸因素的实物、以及具有流血因素的实物中的至少一种；

所述具有暴恐因素的人物形象包括蒙面形象、以及大胡子形象的至少一种。

于一实施例中，对图像进行暴恐元素检测以确定所述图像中是否包含暴恐元素包括：将所述图像输入至预先训练的暴恐元素识别模型，获取所述暴恐元素识别模型的输出结果信息，其中，所述输出结果信息用于表示所述图像中是否包含暴恐元素。

于一实施例中，所述暴恐元素识别模型包括用于识别具有暴恐因素的实物和/或具有暴恐因素的人物形象的第一暴恐元素识别子模型，所述第一暴恐元素识别子模型通过如下方式训练得到：