[发明专利]使用加权字典和正规化来进行文字攻击性检测和处理的系统和方法

摘要

本发明提供了用于识别将认为是对于用户或系统所有者而言淫秽或另外具有攻击性的语言的计算机实施的系统和方法。接收到多个攻击性文字，其中每个攻击性文字与标识该文字的攻击性的严重性评分相关联。接收文字串。计算在候选文字与多个攻击性文字中的每个攻击性文字之间的距离，且计算候选文字的多个攻击性评分，每个攻击性评分是基于在候选文字与该攻击性文字之间的距离和攻击性文字的严重性评分。关于候选文字是否为攻击文字做出判断，其中在多个攻击性评分中的最高攻击性评分超过攻击性阈值时认为候选文字为攻击性文字。

主权项

一种用于文字攻击性检测和处理的方法，其包括：使用一个或多个处理器来接收多个攻击性文字，其中在所述多个攻击性文字中的每个相应攻击性文字与标识该相应文字的攻击性的严重性评分相关联；接收文字串，其中候选文字选自所述文字串；对于在所述多个攻击性文字中的每个相应攻击性文字，计算候选文字与所述相应攻击性文字之间的距离；计算所述候选文字的多个攻击性评分，所述多个攻击性评分中的每个攻击性评分基于(i)在所述候选文字与所述多个攻击性文字中的攻击性文字之间的所计算的距离和(ii)所述攻击性文字的严重性评分；以及基于所述候选文字的多个攻击性评分中的最高评分是否超过了攻击性阈值来判断所述候选文字是否为攻击文字；其中，候选文字的攻击性评分根据下式之一来计算：攻击性评分＝A*((B‑C)/B)；攻击性评分＝A*((B‑(1/C)/B)；攻击性评分＝Max(((A‑C)/A),0)；以及攻击性评分＝(((B‑C)/B)>T)；其中，A为在所述多个攻击性文字中的攻击性文字的严重性评分；B为所述攻击性文字的长度；以及C为在所述候选文字与所述攻击性文字之间的计算的距离；T为攻击性阈值。