[发明专利]风险提示方法、信息提示方法、计算机设备、存储介质

说明书

本申请实施例公开了一种风险提示方法。所述方法包括：获取目标文本中的文本元素，确定所述文本元素的第一风险数据，根据所述第一风险数据，确定所述目标文本具有风险，根据所述第一风险数据，对至少一个目标文本元素进行风险提示，从而能够对使目标文本具有风险的至少一个目标文本元素进行提示，更加精准的定位到具有风险的部分，避免了人工搜寻目标文本元素时的漏报或误报问题，提高了工作效率和质量。

技术领域

本申请涉及数据处理技术领域，具体涉及一种风险提示方法、一种信息提示方法、一种计算机设备、一种计算机可读存储介质。

背景技术

随着互联网的飞速发展和信息量的猛增，大量的色情、暴力、违法等不良信息夹杂在其中，严重影响着互联网的健康发展。对于互联网平台而言，每天都会有大量的用户在不断地生产内容，需要支出非常大的成本来进行内容审核。

目前，内容审核需要依赖大量人力将网站产生的内容一一审看，并根据内容进行鉴定结论。但是互联网信息的极速增长，让人工审核难以兼顾准确性和工作效率两个方面。人工智能内容审核应运而生，但只能帮助人工进行粗略的筛选，将有风险的文章、图片或视频等筛选出来，减少了一部分人工的工作量。

申请人经研究发现，人工智能内容审核通常是一个黑盒，仅能将存在风险的文章筛选出来，但筛选出的文章仍然是很多的，需要人工进行审核，仍然存在大量漏报、误报的问题，审核的效率和质量难以保证。

发明内容

鉴于上述问题，提出了本申请以便提供一种克服上述问题或者至少部分地解决上述问题的风险提示方法、信息提示方法以及计算机设备、计算机可读存储介质。

依据本申请的一个方面，提供了一种风险提示方法，包括：

获取目标文本中的文本元素，确定所述文本元素的第一风险数据；

根据所述第一风险数据，确定所述目标文本具有风险；

根据所述第一风险数据，对至少一个目标文本元素进行风险提示。

可选地，所述确定所述文本元素的第一风险数据包括：

以所述目标文本及其中的文本元素作为输入内容，根据风险识别模型，确定所述文本元素相对目标文本的第一风险数据，其中，所述风险识别模型包括神经网络模型，所述神经网络模型包括注意力层。

可选地，在所述以所述目标文本及其中的文本元素作为输入内容，根据风险识别模型，确定所述文本元素相对目标文本的第一风险数据之前，所述方法还包括：

采用标记风险数据的文本样本，训练所述风险识别模型。

可选地，在所述获取目标文本中的文本元素，确定所述文本元素的第一风险数据之前，所述方法还包括：

获取所述目标文本对应的风险类别；

选取针对所述风险类别的风险识别模型。

可选地，所述获取目标文本中的文本元素包括：

从文本中提取所述目标文本；

对所述目标文本进行分词，得到文本元素。

可选地，所述根据所述第一风险数据，确定所述目标文本具有风险包括：

对所述第一风险数据进行加权处理，得到所述目标文本的第二风险数据；

根据所述第二风险数据以及文本元素对应的元素向量，确定所述目标文本是否具有风险。

可选地，在所述根据所述第二风险数据以及文本元素对应的元素向量，确定所述目标文本是否具有风险之前，所述方法还包括：

构建所述文本元素的元素向量。