[发明专利]监测视频直播敏感信息的方法、计算机设备及可读存储介质

说明书

本发明公开了监测视频直播敏感信息的方法、计算机设备及可读存储介质，属于互联网技术领域。本发明通过将视频直播区域划分为多个监测子区域，分别识别每一监测子区域中是否存在异常信息，从而达到实时精准定位异常信息的目的，提供了审核监测的效率，且便于有效的对网络直播环境进行管理。

技术领域

本发明涉及互联网技术领域，尤其涉及一种监测视频直播敏感信息的方法、计算机设备及可读存储介质。

背景技术

随着网络通信技术的进步和宽带网络的提速，网络直播得到了越来越多的发展和应用。网络直播涉及的领域也越来越广泛，包括游戏、娱乐、体育等各个方面。主播在进行直播时，观众可以看到主播的整个屏幕的所有操作。

由于，视频直播的过程中存在较大的不确定性，很容易被不法分子利用直播平台进行带有敏感信息(如：敏感政治倾向、暴力倾向、不健康色彩或不文明语)的传播，对平台及社会的危害性极大。

然而，当前对视频直播审核的方法主要是人工观看审核，存在人力成本高、审核效率低以及审核及时性差的问题。

发明内容

针对现有视频直播审核效率低、及时性差的问题，现提供一种旨在采用分区域监控的方式提升审核的效率以及实时性的监测视频直播敏感信息的方法、计算机设备及可读存储介质。

本发明提供了一种监测视频直播敏感信息的方法，包括下述步骤：

基于视频直播区域划分至少两个监测子区域；

判断所述至少两个监测子区域中是否有异常信息，当至少一个监测子区域中有异常信息时，生成异常消息。

优选的，所述基于视频直播区域划分至少两个监测子区域的步骤，包括：

提供一存储异常用户信息的历史数据库；

获取被监测视频直播区域的用户信息；

判断所述用户信息与所述历史数据库中的异常用户信息是否匹配，根据匹配结果划分至少两个监测子区域。

优选的，当用户信息与所述历史数据库中的异常用户信息匹配时，基于所述异常用户信息中的历史异常位置信息，生成至少两个监测子区域。

优选的，当用户信息与所述历史数据库中的异常用户信息不匹配时，基于所述视频直播区域生成至少两个监测子区域。

优选的，所述异常信息选自以下至少一种：

敏感词、敏感编码标识、敏感图像。

优选的，所述判断所述至少两个监测子区域中是否有异常信息的步骤包括：

采用异常检测模型分别对每一所述监测子区域中的内容进行检测，判断是否有异常信息。

优选的，所述异常检测模型选自以下至少一种：文本检测模型、编码标识检测模型、图像检测模型。

优选的，还包括：

所述至少两个监测子区域在所述视频直播区域以预设周期、预设偏移距离进行移动。

优选的，还包括：

检测当前视频直播的音频信息是否有异常信息，若是，生成异常消息。

优选的，所述检测当前视频直播的音频信息是否有异常信息的步骤，包括：

将当前视频直播的音频信息进行识别并转化为文本信息；

采用文本检测模型对所述文本信息进行检测。

优选的，生成异常消息，之前还包括：

根据所述异常信息的位置信息，调整所述至少两个监测子区域的监测区域位置及尺寸。