[发明专利]广告内容信息过滤人工智能审核系统

说明书

本发明属于计算机网络技术领域，更具体地，涉及一种广告内容信息过滤人工智能审核系统。该广告内容信息过滤人工智能审核系统对各种文字、图片、视频和语音进行监控，识别其中的不良内容，阻断不良内容的传输，以防止不良内容的传播，造成恶劣影响。

技术领域

本发明属于计算机网络技术领域，更具体地，涉及一种广告内容信息过滤人工智能审核系统。

背景技术

随着公共场所电子屏(以下简称广告屏)技术不断发展和智能设备的大规模普及，广告屏上的应用功能越来越多，受众群体也越来越广，在文化内容极大丰富的同时，也产生了各种各样的问题，广告电子屏设备网络安全、内容安全给我们带来了很大的挑战，包括色情、涉政、暴恐等各类违反社会稳定和谐、甚至国家安全的内容。而传统的广告屏内容过滤审核方式及人工审核采用事前审核，再通过网络或者4G数传设备传送到电子屏播放控制器中，无法保证在播放过程中，播放控制器受到黑客攻击、人为误操作或内容篡改，没有良好的控制手段，实时性也得不到保障。

为了实现对广告屏播放内容环境的净化，必须对传输到广告屏的过程中，内容进行实时控制和自动审核，包括不良图片、视频、音频、文字、自定义规则进行监控，直接切断播放控制器和广告屏之间的HDMI有害信息的传播数据流，并实现事中控制、事后取证的能力。

发明内容

为此，需要提供一种广告内容信息过滤人工智能审核系统，该广告内容信息过滤人工智能审核系统对各种文字、图片、视频和语音进行监控，识别其中的不良内容，阻断不良内容的传输，以防止不良内容的传播，造成恶劣影响。

为实现上述目的，本发明采用如下技术方案：

广告内容信息过滤人工智能审核系统，该系统包括，

数据采集模块，用于采集文字、图片、视频和语音信息；

算法模型训练模块，用于训练对数据进行处理的算法模型，并对算法模型进行标注，以便于调用；

算法服务模块，根据智能检测模块的需要从算法模型训练模块调用不同的算法模型对数据进行处理；

智能检测模块，根据数据采集模型采集的数据，调用算法服务模块中对应的算法模型对数据进行检测，并将检测结果发送给数据分析模块、审核模块和处置模块；

审核模块，根据数据管理模块的定义，对智能检测模块的检测结果进行审核，将审核结果发送给数据分析模块和数据存储模块；

处置模块，针对智能检测模块的检测结果，给出处置建议；

数据管理模块，用于管理不同类型数据的案例，这些数据案例为算法服务模块和审核模块提供参考；

数据存储模块，用于进行数据存储；

数据分析模块，根据检测结果和审核结果进行预警、统计、取证；

系统管理模块，用于管理登录系统的用户，消息提醒，系统的运行状态。

本技术方案进一步的优化，算法模型训练模块训练的模块包括深度网络模型。

本技术方案进一步的优化，所述算法服务模块包括智能鉴黄、暴恐识别、广告识别、人脸对比、LOGO识别、不良场景识别、图文OCR、人脸搜索、垃圾文本识别、竞品评论过滤、无意义弹幕过滤、刷屏/灌水识别、文本相似度、声纹识别、语种识别、语音转文字、视频指纹、视频分类、视频字幕提取和视频标签提取中的一种或者多种。

本技术方案进一步的优化，所述智能检测模块包括鉴权、流控、调用和综合决策。

本技术方案进一步的优化，所述审核模块包括任务智能管理、审核打标和标签管理。

本技术方案进一步的优化，所述处理模块包括处置策略配置和处置建议反馈。