[发明专利]一种信息处理方法、装置、终端和计算机可读存储介质

说明书

本发明提出一种信息处理方法、装置、终端和计算机可读存储介质，方法包括：用户终端获取UGC、及UGC产生过程中的行为数据；用户终端根据UGC产生过程中的行为数据，并利用UGC敏感内容预测模型对UGC进行敏感内容预测，获得针对UGC的敏感内容预测结果；在敏感内容预测结果表征UGC未通过敏感内容预测时，生成提示信息，提示信息用于提示用户提交的UGC存在敏感内容。通过实施本发明，使敏感内容检测不过度依赖于服务器端和网络交互，在用户终端侧即能实现一定程度的UGC敏感内容预测，不仅减轻服务器端负担，也提升了用户提交UGC的审核响应时效；基于UGC产生过程中的行为数据进行UGC敏感内容预测，使UGC敏感内容判定的形式不再单一，有利于提升敏感内容判定的准确率。

技术领域

本发明涉及用户创作内容(UGC，User Generated Content)的信息处理技术领域，尤其涉及一种信息处理方法、装置、终端和计算机可读存储介质。

背景技术

UGC属于互联网技术术语，是指用户创作内容，即用户将自己原创的内容通过互联网平台进行展示或者提供给其他用户。UGC敏感内容检测一直是内容平台必备的技术手段。现有的UGC敏感内容检测流程参见图1所示，通常是在用户通过终端提交UGC内容给服务器端时，服务器端直接对UGC内容利用敏感内容库、或敏感内容检测规则、或基于前述二者训练的机器学习模型来进行判定；若判定符合UGC发布要求，则服务器端进行UGC发布；若判定不符合UGC发布要求，则提示用户，并在用户修改UGC后重新利用敏感内容库、或敏感内容检测规则、或基于前述二者训练的机器学习模型来进行判定；服务器端只允许发布符合要求的UGC。现有技术存在至少以下技术缺陷：

1、每次的UGC敏感内容检测都依赖于服务器端，即必须要依赖于至少一次的网络交互才能完成；

2、UGC敏感内容检测的准确率不高；

3、需要较多的人工干预，有很多UGC需要靠人工召回重新筛选补充敏感内容到服务器端检测的规则或模型中。

发明内容

本发明实施例提供一种信息处理方法、装置、终端和计算机可读存储介质，以至少解决现有技术中以上技术问题的其中之一。

第一方面，本发明实施例提供了一种信息处理方法，包括：

用户终端获取用户创作内容(UGC)、以及所述UGC产生过程中的行为数据；

所述用户终端根据所述UGC产生过程中的行为数据，并利用UGC敏感内容预测模型对所述UGC进行敏感内容预测，获得针对所述UGC的敏感内容预测结果；

在所述敏感内容预测结果表征所述UGC未通过敏感内容预测时，生成提示信息，所述提示信息用于提示用户提交的UGC存在敏感内容。

结合第一方面，本发明在第一方面的第一种实施方式中，在所述生成提示信息后，所述方法还包括：

获得修改后的UGC，并根据所述UGC修改过程中的行为数据，利用UGC敏感内容预测模型对所述修改后的UGC进行敏感内容预测，获得针对所述修改后的UGC的敏感内容预测结果，所述敏感内容预测结果用于表征所述修改后的UGC是否通过敏感内容预测。

结合第一方面或第一方面的第一种实施方式，本发明在第一方面的第二实施方式中，还包括：

所述用户终端发送通过敏感内容预测的UGC到服务器端，供所述服务器端利用敏感内容过滤模型进行UGC敏感内容过滤，获得最终的UGC敏感内容检测结果，所述最终的UGC敏感内容检测结果用于表征所述UGC是否通过所述服务器端的UGC敏感内容检测。

结合第一方面的第二实施方式，本发明在第一方面的第三实施方式中，还包括：