[发明专利]一种直播风控方法和装置

权利要求书

1.一种直播风控方法，其特征在于，包括：

实时监控直播数据；

根据所述直播数据以及所述直播数据的来源所对应的用户数据，确定所述直播数据和/或所述用户数据的风险值；

当所述风险值满足预设风险条件时，根据预设的风控策略，对所述直播数据和/或所述用户数据进行风控处理。

2.根据权利要求1所述的方法，其特征在于，

所述直播数据包括以下任意一个或多个：第一用户发送的互动消息、向所述第一用户推送的音频流、向所述第一用户推送的视频流以及向所述第一用户推送的与虚拟资源相关的任务。

3.根据权利要求2所述的方法，其特征在于，当所述直播数据包括所述互动消息、所述音频流和/或所述视频流时，所述用户数据包括目标用户画像；所述根据所述直播数据以及所述直播数据的来源所对应的用户数据，确定所述直播数据的风险值，包括：

根据所述直播数据和所述目标用户画像，利用风险预测模型，确定所述直播数据对应的风险值。

4.根据权利要求3所述的方法，其特征在于，当所述直播数据包括所述互动消息时，所述用户数据包括产生所述互动消息的第一用户的第一用户画像，所述目标用户画像为所述第一用户的第一用户画像；所述根据所述直播数据和所述目标用户画像，利用风险预测模型，确定所述直播数据对应的风险值，包括：

确定所述互动消息中是否存在敏感词汇，如果是，对所述敏感词汇进行过滤，并将过滤后的互动消息和所述第一用户画像作为第一风险预测模型的输入，并将所述第一风险预测模型的输出作为所述直播数据对应的风险值。

5.根据权利要求4所述的方法，其特征在于，所述预设风险条件包括第一风险阈值；所述当所述风险值满足预设风险条件时，包括：

当所述风险值大于所述第一风险阈值时，确定所述风险值满足所述预设风险条件；当所述风险值不大于所述第一风险阈值时，展示所述过滤后的互动消息；

所述对所述直播数据进行风控处理，包括：

拦截所述互动消息。

6.根据权利要求3所述的方法，其特征在于，当所述直播数据包括所述音频流时，所述用户数据包括产生所述音频流的第二用户的第二用户画像，所述目标用户画像为所述第二用户的第二用户画像；所述根据所述直播数据和所述目标用户画像，利用风险预测模型，确定所述直播数据对应的风险值，包括：

将所述音频流转换成文本，将所述文本和所述第二用户画像作为第二风险预测模型的输入，并将所述第二风险预测模型的输出作为所述直播数据对应的风险值。

7.根据权利要求3所述的方法，其特征在于，当所述直播数据包括所述视频流时，所述用户数据包括产生所述视频流的第二用户的第二用户画像，所述目标用户画像为所述第二用户的第二用户画像；所述根据所述直播数据和所述目标用户画像，利用风险预测模型，确定所述直播数据对应的风险值，包括：

对所述视频流进行抽帧，得到所述视频流对应的多张直播图像；

将所述直播图像和所述第二用户画像作为第三风险预测模型的输入，并将所述第三风险预测模型的输出作为所述直播数据对应的风险值。

8.根据权利要求7所述的方法，其特征在于，当所述直播数据还包括所述互动消息时，所述对所述视频流进行抽帧，包括：

根据所述互动消息的频次以及预设的抽帧频次，确定目标抽帧频次，并根据所述目标抽帧频次对所述视频流进行抽帧。

9.根据权利要求8所述的方法，其特征在于，所述确定目标抽帧频次，包括：

获取第一用户针对所述视频流的负面反馈数据；

根据所述负面反馈数据的频次、所述互动消息的频次以及预设的抽帧频次，确定所述目标抽帧频次，所述目标抽帧频次与所述负面反馈数据的频次正相关。