[发明专利]一种内容审核方法及装置

说明书

本申请提供一种内容审核方法及装置，属于计算机技术领域，涉及人工智能和自然语言处理技术。其中，内容审核方法包括：获取待审核内容中的待审核文本单元；根据所述待审核文本单元的语义信息，以及语义信息与审核结果的对应关系，确定所述待审核文本单元的审核结果；所述语义信息与审核结果的对应关系为根据训练文本单元的语义信息以及所述训练文本单元的审核标签确定的；根据所述待审核文本单元的审核结果，确定所述待审核文本单元的审核标记；在所述待审核文本单元中添加审核标记并进行显示。

技术领域

本申请涉及计算机技术领域，尤其涉及一种内容审核方法及装置。

背景技术

在自媒体越来越多的今天，资讯类APP(Application，应用程序)内容变得丰富多彩，与此同时也产生了很多有害信息，严重影响了用户的阅读体验。为了有效的过滤掉这些有害信息，需要对每天产生的内容进行审核。

检验文章是否存在问题，一般是基于规则进行审核或利用分类模型进行审核。但是这些审核方式，一般都是对整篇文章进行判断，将文章区分成正常文章或有问题文章，这种方法的审核精确度较低，容易出现遗漏，且审核人员进行复核的时候，需要通篇阅读文章，严重影响了审核效率。

发明内容

为解决相关技术中存在的技术问题，本申请实施例提供一种内容审核方法及装置，可以提高内容审核的效率和精确度。

为达到上述目的，本申请实施例的技术方案是这样实现的：

一方面，本申请实施例提供一种内容审核方法，所述方法包括：

获取待审核内容中的待审核文本单元；

根据所述待审核文本单元的语义信息，以及语义信息与审核结果的对应关系，确定所述待审核文本单元的审核结果；所述语义信息与审核结果的对应关系为根据训练文本单元的语义信息以及所述训练文本单元的审核标签确定的；

根据所述待审核文本单元的审核结果，确定所述待审核文本单元的审核标记；

在所述待审核文本单元中添加审核标记并进行显示。

另一方面，本申请实施例还提供一种内容审核装置，所述装置包括：

获取单元，用于获取待审核内容中的待审核文本单元；

审核单元，用于根据所述待审核文本单元的语义信息，以及语义信息与审核结果的对应关系，确定所述待审核文本单元的审核结果；所述语义信息与审核结果的对应关系为根据训练文本单元的语义信息以及所述训练文本单元的审核标签确定的；

标记单元，用于根据所述待审核文本单元的审核结果，确定所述待审核文本单元的审核标记；在所述待审核文本单元中添加审核标记。

一种可选的实施例中，所述审核单元，具体用于：

将所述待审核文本单元分词，得到待审核分词集合；

确定所述待审核分词集合中每一个目标分词文本的语义信息，以及所述待审核文本单元中每一个目标单字文本的语义信息；

根据所述待审核文本单元中每一个目标单字文本的语义信息、所述目标单字文本所在的目标分词文本的语义信息，以及语义信息与审核结果的对应关系，确定所述待审核文本单元的审核结果目标分词文本目标单字文本。

一种可选的实施例中，所述审核单元，具体用于：

针对每一个目标分词文本，确定所述目标分词文本在所述待审核文本单元中的词权重；所述词权重反应了所述目标分词文本对所述待审核文本单元的重要程度；

根据目标分词文本的词权重，确定所述目标分词文本中每一个目标单字文本的字权重；