[发明专利]一种信息处理方法、装置、终端和计算机可读存储介质

权利要求书

1.一种信息处理方法，其特征在于，所述方法包括：

用户终端获取用户创作内容UGC、以及所述UGC产生过程中的行为数据，所述UGC产生过程中的行为数据包括在所述UGC的修改过程中的行为数据和/或相关的历史版本的UGC产生过程中的行为数据；

所述用户终端根据所述UGC产生过程中的行为数据，并利用UGC敏感内容预测模型对所述UGC进行敏感内容预测，获得针对所述UGC的敏感内容预测结果；

在所述敏感内容预测结果表征所述UGC未通过敏感内容预测时，生成提示信息，所述提示信息用于提示用户提交的UGC存在敏感内容。

2.根据权利要求1所述的方法，其特征在于，在所述生成提示信息后，所述方法还包括：

获得修改后的UGC，并根据所述UGC修改过程中的行为数据，利用UGC敏感内容预测模型对所述修改后的UGC进行敏感内容预测，获得针对所述修改后的UGC的敏感内容预测结果，所述敏感内容预测结果用于表征所述修改后的UGC是否通过敏感内容预测。

3.根据权利要求1或2所述的方法，其特征在于，所述方法还包括：

所述用户终端发送通过敏感内容预测的UGC到服务器端，供所述服务器端利用敏感内容过滤模型进行UGC敏感内容过滤，获得最终的UGC敏感内容检测结果，所述最终的UGC敏感内容检测结果用于表征所述UGC是否通过所述服务器端的UGC敏感内容检测。

4.根据权利要求3所述的方法，其特征在于，所述方法还包括：

若通过敏感内容预测的UGC存在对应的历史版本UGC，所述用户终端将所述对应的历史版本UGC也随所述通过敏感内容预测的UGC一同发送到所述服务器端，供所述服务器端进行所述敏感内容过滤模型的更新训练。

5.根据权利要求4所述的方法，其特征在于，所述历史版本UGC以快照的形式保存在所述用户终端。

6.根据权利要求1或2所述的方法，其特征在于，所述方法还包括：

根据预设的行为数据样本，并通过学习训练获得所述UGC敏感内容预测模型；或者，

根据预设的敏感内容库、敏感内容判定规则、以及行为数据样本，并通过学习训练获得所述UGC敏感内容预测模型。

7.根据权利要求1或2所述的方法，其特征在于，所述行为数据包括以下一种或多种的组合：

用户浏览行为数据、用户操作路径、用户手势、用户语音、用户视频、用户终端的摄像头使用情况、UGC的输入方式、UGC的整体操作时长、用户终端的抖动数据、用户登录账号、IP地址。

8.一种信息处理装置，其特征在于，所述装置包括：

数据获取单元，用于获取用户终端上的用户创作内容UGC、以及所述UGC产生过程中的行为数据，所述UGC产生过程中的行为数据包括在所述UGC的修改过程中的行为数据和/或相关的历史版本的UGC产生过程中的行为数据；

敏感内容预测单元，用于根据所述UGC产生过程中的行为数据，并利用UGC敏感内容预测模型对所述UGC进行敏感内容预测，获得针对所述UGC的敏感内容预测结果；

提示单元，用于在所述敏感内容预测结果表征所述UGC未通过敏感内容预测时，生成提示信息，所述提示信息用于提示用户提交的UGC存在敏感内容。

9.根据权利要求8所述的装置，其特征在于，

所述数据获取单元进一步用于，在所述提示单元生成提示信息后，获得修改后的UGC；

所述敏感内容预测单元进一步用于，根据所述UGC修改过程中的行为数据，利用UGC敏感内容预测模型对所述修改后的UGC进行敏感内容预测，获得针对所述修改后的UGC的敏感内容预测结果，所述敏感内容预测结果用于表征所述修改后的UGC是否通过敏感内容预测。