[发明专利]网络分发内容检测处理装置、方法、系统及电子设备

说明书

本公开实施例公开一种网络分发内容检测处理方法、装置、系统、电子设备及存储介质。其中一个方法包括：接收CDN节点发送的对要访问的网络资源内容的检测请求，检测请求中包含要访问的网络资源内容的资源定位信息；判断检测请求包含的资源定位信息是否需要检测，以得到判断结果；在判断结果为需要检测时，将资源定位信息发送至检测系统，以使检测系统对网络资源内容进行检测；接收检测系统发送的资源定位信息对应的检测结果为检测网络资源内容为异常内容的第一检测结果，并发送至CDN节点，以使CDN节点根据第一检测结果，响应访问请求向客户端返回网络资源内容为异常内容的提示信息。本公开实施例可以实现网络资源内容的自动化检测。

技术领域

本公开实施例涉及网络分发领域，尤其涉及一种网络分发内容检测处理装置、方法、系统、电子设备及计算机可读存储介质。

背景技术

在内容分发网络(Content Delivery Network，CDN)、对象存储系统等网络分发代理的场景里，内容管理者如果需要对客户端访问的内容，诸如视频、音频、图片、文字做检测及处理，现有检测方式包括成立人工肉眼检测内容的团队，通过人工肉眼日常对在网络分发代理上加速的内容进行检测，如果发现某个内容有涉黄、涉恐、涉政等违法违规信息，则记录下来，并删除存在网络分发代理及源站上的该内容，避免违反相关法律法规。这种通过人工识别的方式准确率高，但是存在人工成本高及运营管理效率低的问题。

现有检测方式还存在使用一些自动识别内容的人工智能(ArtificialIntelligence，AI)检测的系统工具，AI系统工具日常或者定期对在CDN等网络分发代理上加速的内容进行检测，同样地，如果发现某个内容有涉黄、涉恐、涉政等违法违规信息，AI检测系统工具自动记录下来，存储在数据库，或者进一步展示到客户端界面。后续运营人员查看AI检测系统工具的识别系统界面上的检测记录，导出其中的违法违规内容，删除存在网络分发代理及源站上的这些内容，避免违反相关法律法规。

这种通过AI系统工具的检测方式虽然在一定程度上减少了人工肉眼检测的工作，但检测出违法违规内容后后期仍需要运营人员介入进行相应的违规内容处理，才可以完成全部检测工作。因此，检测环节的功能不够完善，缺失自动化处理的环节，从运营人员发现相应内容到处理可能已经过去较长时间，导致不能及时、有效地处理违法违规内容。

发明内容

本公开实施例的目的在于提供一种网络分发内容检测处理装置、方法、系统、电子设备及计算机可读存储介质。

根据本公开实施例的第一方面，提供了一种网络分发内容检测处理方法，执行在汇聚中心系统端，所述方法包括：

接收内容分发网络CDN节点发送的对要访问的网络资源内容的检测请求，所述检测请求中包含要访问的网络资源内容的资源定位信息；

判断所述检测请求包含的所述资源定位信息是否需要检测；

在判断需要检测的情况下，将所述资源定位信息发送至检测系统，以使所述检测系统对所述资源定位信息对应的网络资源内容是否异常进行检测；

接收所述检测系统发送的检测结果，并在所述检测结果提示所述网络资源内容为异常内容的情况下，将所述检测结果发送至所述CDN节点以便所述CDN节点进行处理。

根据本公开实施例的第二方面，提供了一种网络分发内容检测处理方法，执行在内容分发网络CDN节点端，所述方法包括：

接收客户端发送的包含要访问的网络资源内容的资源定位信息的访问请求；

发送包含所述要访问的网络资源内容的资源定位信息的检测请求至汇聚中心系统；

接收所述汇聚中心系统发送的检测结果，在所述检测结果提示所述网络资源内容为异常内容的情况下，对所述网络资源内容做处理。