[发明专利]进行文字攻击性检测和处理的系统和方法

说明书

本发明提供了用于识别将认为是对于用户或系统所有者而言淫秽或另外具有攻击性的语言的计算机实施的系统和方法。接收到多个攻击性文字，其中每个攻击性文字与标识该文字的攻击性的严重性评分相关联。接收文字串。计算在候选文字与多个攻击性文字中的每个攻击性文字之间的距离，且计算候选文字的多个攻击性评分，每个攻击性评分是基于在候选文字与该攻击性文字之间的距离和攻击性文字的严重性评分。关于候选文字是否为攻击文字做出判断，其中在多个攻击性评分中的最高攻击性评分超过攻击性阈值时认为候选文字为攻击性文字。

本申请是申请日为2011年01月28日、申请号为201180017473.7、名称为“使用加权字典和正规化来进行文字攻击性检测和处理的系统和方法”的发明申请的分案。

技术领域

本公开大体而言涉及用于识别将认为对于用户或系统所有者而言具有攻击性的语言的计算机实施的系统和方法。

背景技术

淫秽(Obscenity)(在拉丁语中，obscenus，表示“污秽、令人厌恶、可憎的”)为最常用于描述攻击性的表达(文字、短语、图像、动作)的用语。淫秽的定义因文化不同，在单个文化内的社区之间以及在这些社区内的个人之间而不同。

许多文化制定了法律来限定哪些认为是淫秽的或者另外具有攻击性，且常常使用审查制度来试图抑制或控制属于这些定义内的材料。各种国家对于他们作为法人允许他们的公民访问和在他们本地人口中宣传的材料类型具有不同的标准。这些国家许可的内容广泛不同，且某些对于违反限制的人具有极端的惩罚。但是，虽然访问这些类型的内容可能在一个社会中导致惩罚，该内容在另一社会中可能会被很好地接受。

发明内容

根据本文所提供的教导内容，提供了用于识别将认为对于用户或系统所有者而言淫秽或另外具有攻击性的语言的实施的系统和方法。举例而言，一种系统和方法可被配置为：使用一个或多个处理器来接收多个攻击性文字，其中在多个攻击性文字中的每个相应攻击性文字与识别该文字的攻击性的严重性评分相关联。接收文字串，其中候选文字选自所述文字串；且可计算在候选文字与多个攻击性文字中的每个攻击性文字之间的距离。可计算候选文字的多个攻击性评分，每个攻击性评分是基于在候选文字与该攻击性文字之间的距离和攻击性文字的严重性评分。对候选文字是否为攻击文字(offender word)做出判断，其中在多个攻击性评分中的最高攻击性评分超过攻击性阈值时认为候选文字为攻击性文字。

一种系统和方法还利用Levenshtein距离、Hamming距离、Damerau-Levenshtein距离、Dice系数、或Jaro-Winkler距离作为在候选文字与每个攻击性文字之间的距离。攻击性阈值由服务管理员设置；其中文字串从用户输入到服务；以及其中如果在文字串中的候选文字由于具有超过服务管理员所设置的攻击性阈值的攻击性评分而被识别为攻击文字，则拒绝从所述用户到服务的输入。该服务为内容评论入口，其中攻击性阈值基于下列之一来设置：被评论的内容所存在的类型；攻击性阈值相关联的特定内容；或者内容的第三方内容分级。该服务选自下列：留言板、内容评论入口、聊天室、电子布告栏系统、社交网站或者多人游戏。

一种系统和方法可具有由服务的用户设置的攻击性阈值，其中文字串为从服务到用户的有意输出；其中包含因攻击性评分超过用户设置的攻击性阈值而被识别为攻击文字的文字串在显示给用户之前被修改。可通过删除文字串使得该文字串并不显示给用户或者通过删改(censor)文字串使得不显示攻击性文字来修改该文字串。攻击性文字的默认类别和默认攻击性阈值可基于用户当地的文化规范来设置。对用户设置最大攻击性阈值，其中用户不能设置高于最大攻击性阈值的攻击性阈值。