[发明专利]一种内容风险识别方法、系统、设备及介质

说明书

本发明提供了一种内容风险识别方法，用于识别网络中内容的安全性，网络用于终端与云端之间的信息交互，方法包括：S1，对所述内容进行分类，以使内容被分为第一类型内容以及第二类型内容；S2，将第一类型内容传输至云端；S3，所述云端对第一类型内容进行风险识别，终端对第二类型进行识别。该方法将对视频、图片、语音等内容发送至云端，使云端对其安全性进行识别，极大的降低了终端设备识别内容的资源消耗，使得终端设备的性能有更多的选择性，同时，云端算法的更新更加及时，而不用对终端进行一个个更新。另外，本发明还提供了一种内容风险识别系统、电子设备及计算机可读介质。

技术领域

本发明涉及网络安全技术领域，尤其涉及一种内容风险识别方法、系统、设备及介质。

背景技术

随着网络通信及电子设备的发展，互联网的应用越来越广泛，互联网的内容越来越丰富，一些不良信息例如黄、赌、毒、诈骗等信息也随着互联网技术的发展通过网络传播越来越频繁，这些信息往往通过文字、语音、视频、图片等方式进行传播，其内容类型的多样性使得目前现有的检测技术面临很大的挑战，现有技术中常通过网络中部署内容识别设备对内容的安全性进检测以过滤不良内容信息，但对图片、视频、语音等内容的检测对终端设备的性能要求很好，同时非常消耗终端设备的内存，在终端设备上完成检测效率低成本高，并且针对识别技术的更新无法做到及时的同步更新。

发明内容

(一)要解决的技术问题

本发明提供了一种内容风险识别方法、系统、设备及介质，至少解决以上问题。

(二)技术方案

第一方面，本发明提供了一种内容风险识别方法，用于识别网络中内容的安全性，网络用于终端与云端之间的信息交互，方法包括：S1，对所述内容进行分类，以使内容被分为第一类型内容以及第二类型内容；S2，将第一类型内容传输至云端；S3，所述云端对第一类型内容进行风险识别，终端对第二类型进行识别。

可选地，第一类型内容包括图片、视频以及语音，第二类型内容包括网址、文字以及文本。

可选地，步骤S3中云端对第一类型内容进行风险识别具体为云端通过OCR技术和深度学习算法对图片和视频进行内容风险识别，云端通过ASR技术对语音进行内容风险识别。

可选地，步骤S2具体为通过多种隧道和/或加密的传输方式将第一类型内容传输至云端。

可选地，步骤S3还包括云端将风险识别结果传送至终端，以实现终端对第一类型内容以及第二类型内容风险的识别。

第二方面，本发明提供了一种内容风险识别系统，系统包括：分类模块，用于对内容进行分类，以使内容被分为第一类型内容以及第二类型内容；传输模块，用于将第一类型内容传输至云端；识别模块，包括第一识别模块以及第二识别模块，其中，第一识别模块，用于云端对第一类型内容进行风险识别，第二识别模块，用于终端对第二类型进行识别。

可选地，第一类型内容包括图片、视频以及语音，第二类型内容包括网址、文字以及文本。

可选地，识别模块中，云端对第一类型内容进行风险识别具体为云端通过OCR技术和深度学习算法对图片和视频进行内容风险识别，云端通过ASR技术对语音进行内容风险识别。

第三方面，本发明提供了一种电子设备，设备包括：处理器；存储器，其存储有计算机可执行程序，该程序在被处理器执行时，使得处理器执行上述的内容风险识别方法。

第四方面，本发明提供了一种计算机可读存储介质，其上存储有计算机程序，该程序被处理器执行时实现上述的内容风险识别方法。

(三)有益效果