[发明专利]进行文字攻击性检测和处理的系统和方法

摘要

本发明提供了用于识别将认为是对于用户或系统所有者而言淫秽或另外具有攻击性的语言的计算机实施的系统和方法。接收到多个攻击性文字，其中每个攻击性文字与标识该文字的攻击性的严重性评分相关联。接收文字串。计算在候选文字与多个攻击性文字中的每个攻击性文字之间的距离，且计算候选文字的多个攻击性评分，每个攻击性评分是基于在候选文字与该攻击性文字之间的距离和攻击性文字的严重性评分。关于候选文字是否为攻击文字做出判断，其中在多个攻击性评分中的最高攻击性评分超过攻击性阈值时认为候选文字为攻击性文字。

主权项

通过检测在计算机网络上传递的文字串中的攻击性文字来自动修改图形用户界面上显示的文本的方法，包括：使用一个或多个处理器在计算机数据库中接收和存储多个攻击性文字，其中在所述多个攻击性文字中的每个相应攻击性文字与标识该相应文字的攻击性的严重性评分相关联；使用该一个或多个处理器接收文字串，其中候选文字选自所述文字串；对于在所述多个攻击性文字中的每个相应攻击性文字，使用该一个或多个处理器计算候选文字与所述相应攻击性文字之间的距离；使用该一个或多个处理器计算所述候选文字的攻击性评分，所述计算基于(i)在所述候选文字与所述多个攻击性文字中的攻击性文字之间的所计算的距离和(ii)所述攻击性文字的严重性评分；使用该一个或多个处理器，基于所述候选文字的攻击性评分是否超过了攻击性阈值来判断所述候选文字是否为攻击文字；以及当所述候选文字被判断为攻击性文字时，在图形用户界面显示该候选文字之前，调整计算机可读存储器中的该候选文字。