[发明专利]一种直播风控方法和装置

说明书

本发明公开了一种直播风控方法和装置，涉及计算机技术领域。该方法的具体实施方式包括：实时监控直播数据；根据所述直播数据以及所述直播数据的来源所对应的用户数据，确定所述直播数据和/或所述用户数据的风险值；当所述风险值满足预设风险条件时，根据预设的风控策略，对所述直播数据和/或所述用户数据进行风控处理。该实施方式能够实现风险的精准识别及管控，并基于实时数据调整检测及管控措施，提升风险检测及管控能力、降低人工成本，防止违规内容的漏检，保证平台的正常运营。

技术领域

本发明涉及计算机技术领域，尤其涉及一种直播风控方法和装置。

背景技术

直播作为一种新型的互动社交方式，随着互联网技术的发展，其用户、信息传播速度和商业价值等都呈现爆发式增长趋势。

现有技术的直播风险控制通常包括主播风控和观众风控，主播风控通过平台管理员抽检或者直播间观众举报的方式获得风险内容，并对风险内容进行处理；观众风控通过直播间管理员实时审核的方式获得风险内容，并对风险内容进行处理。

由于平台管理员抽检、观众举报、管理员实时审核的人工模式需要消耗大量的人力物力，而直播相关数据呈爆发式增长，交互消息峰值甚至高达1000万条/s以上。因此，人工模式进行直播的风险控制效率低下、审核成本过高，并且由于人工与直播数据的量级差别巨大，导致违规内容的漏检率极高，进一步可能导致平台存在下架风险。

发明内容

有鉴于此，本发明实施例提供一种直播风控方法和装置，能够实现风险的精准识别及管控，并基于实时数据调整检测及管控措施，提升风险检测及管控能力、降低人工成本，防止违规内容的漏检，保证平台的正常运营。

为实现上述目的，根据本发明实施例的一个方面，提供了一种直播风控方法，包括：

实时监控直播数据；

根据所述直播数据以及所述直播数据的来源所对应的用户数据，确定所述直播数据和/或所述用户数据的风险值；

当所述风险值满足预设风险条件时，根据预设的风控策略，对所述直播数据和/或所述用户数据进行风控处理。

可选地，所述直播数据包括以下任意一个或多个：第一用户发送的互动消息、向所述第一用户推送的音频流、向所述第一用户推送的视频流以及向所述第一用户推送的与虚拟资源相关的任务。

可选地，当所述直播数据包括所述互动消息、所述音频流和/或所述视频流时，所述用户数据包括目标用户画像；所述根据所述直播数据以及所述直播数据的来源所对应的用户数据，确定所述直播数据的风险值，包括：

根据所述直播数据和所述目标用户画像，利用风险预测模型，确定所述直播数据对应的风险值。

可选地，当所述直播数据包括所述互动消息时，所述用户数据包括产生所述互动消息的第一用户的第一用户画像，所述目标用户画像为所述第一用户的第一用户画像；所述根据所述直播数据和所述目标用户画像，利用风险预测模型，确定所述直播数据对应的风险值，包括：

确定所述互动消息中是否存在敏感词汇，如果是，对所述敏感词汇进行过滤，并将过滤后的互动消息和所述第一用户画像作为第一风险预测模型的输入，并将所述第一风险预测模型的输出作为所述直播数据对应的风险值。

可选地，所述预设风险条件包括第一风险阈值；所述当所述风险值满足预设风险条件时，包括：

当所述风险值大于所述第一风险阈值时，确定所述风险值满足所述预设风险条件；当所述风险值不大于所述第一风险阈值时，展示所述过滤后的互动消息；

所述对所述直播数据进行风控处理，包括：

拦截所述互动消息。