[发明专利]一种敏感词的处理方法及处理装置

说明书

本申请公开了一种敏感词的处理方法及处理装置，所述处理方法包括：建立敏感词数据库；对待发布文章进行识别，判断识别目标敏感词，获取待发布文章所包含的目标敏感词以及所述目标敏感词的出现频次；查询所述敏感词数据库，获取所述目标敏感词的敏感等级；根据所述目标敏感词的敏感等级和出现频次按照相应的处理策略对所述目标敏感词进行处理。在本申请中，首先建立敏感词数据库，然后对待发布文章进行识别确定文章中出现的目标敏感词以及出现频次，根据敏感词数据库确定目标敏感词的敏感等级，最后根据敏感等级和出现频次按照相应的处理策略对所述目标敏感词进行处理，可以提高敏感词排查的效率，避免发生漏查、错查等现象，提高检查的准确性。

技术领域

本申请属于新一代信息数据处理技术领域，更具体地，涉及一种敏感词的处理方法及处理装置。

背景技术

目前对于敏感词的后台处理，只是对敏感词进行过滤，没有进行等级划分，也就是把文章内容中的敏感词标记后提供给审核员人工审查，但由于敏感词库不断的增加或减少，而且频率很快，对于篇幅较长的文章，章节中会出现许多敏感词，审核员基本需要做到通篇阅读才能完成对该篇文章的敏感词审核，这样消耗的时间非常大。而且由于字数多，容易发生漏查、错查等现象，导致即便将敏感词高亮显示也容易出现审查失误。

鉴于此，克服该现有技术产品所存在的不足是本技术领域亟待解决的问题。

发明内容

针对现有技术的以上缺陷或改进需求，本申请提供了一种敏感词的处理方法及处理装置，可以提高敏感词排查的效率，避免发生漏查、错查等现象，提高检查的准确性。

为实现上述目的，按照本申请的一个方面，提供了一种敏感词的处理方法，所述处理方法包括：

建立敏感词数据库；

对待发布文章进行识别，获取所述待发布文章所包含的目标敏感词以及所述目标敏感词的出现频次；

查询所述敏感词数据库，获取所述目标敏感词的敏感等级；

根据所述目标敏感词的敏感等级和出现频次按照相应的处理策略对所述目标敏感词进行处理。

优选地，所述处理策略包括：当所述目标敏感词的敏感等级小于设定的等级阈值，则采用设定的字符对所述目标敏感词进行覆盖。

优选地，所述处理策略包括：当所述目标敏感词的敏感等级不小于设定的等级阈值，则结合上下文判断携带该目标敏感词的上下文是否具有正面意义，若具有正面意义，则不进行处理，若不具有正面意义，则采用设定的字符对所述敏感词进行覆盖。

优选地，所述处理策略包括：当所述目标敏感词的敏感等级不小于设定的等级阈值，且所述目标敏感词的出现频次不小于设定的频次阈值，则对所述目标敏感词进行人工审核。

优选地，所述建立敏感词数据库包括：

获取敏感词，为每个敏感词设置第一标识ID1，并为每个敏感词设置敏感等级，将所述敏感词、第一标识ID1和所述敏感等级建立映射关系，建立敏感词数据库。

优选地，所述处理方法还包括：

查询所述敏感词数据库，获取所述目标敏感词的第一标识ID1；

并基于所述目标敏感词的出现顺序和所述待发布文章的源位置生成第二标识ID2，获取所述目标敏感词的出现频次；

设置所述目标敏感词对应的替换字符；

将所述目标敏感词、所述第一标识ID1、所述敏感等级、所述出现频次、所述第二标识ID2和替换字符建立处理表，并输出所述处理表。

优选地，所述处理方法还包括：

当所述目标敏感词的敏感等级大于设定的等级阈值时，根据所述第二标识ID2判断所述目标敏感词的出现顺序是否符合设定的要求，若不符合，则调整所述目标敏感词的出现顺序。

优选地，所述处理方法包括：