[发明专利]用于从文档中去除敏感内容的设备和方法

说明书

本文中描述了一种用于以保存文档的有用性以便后续分析的方式从文档中去除敏感内容的计算机实现的技术。例如，该技术隐蔽文档中的敏感内容，同时保留文档中的有意义信息以便后续由机器学习引擎或其他机器实现的分析机制来处理。根据一个说明性方面，该技术使用基于一个或多个选择因素所挑选的修改策略来从文档中去除敏感内容。一种选择因素涉及到要在文档已经被匿名化之后对它们执行的处理的性质。

背景技术

用户变得越来越多地致力于确保他们的个人文档保存私密。为了解决该问题，公司们已经尝试在他们顾客的文档被保存以及与他人共享(如果能够应用)的方式方面澄清他们的政策。在某些情况下，一家公司也可以对文档加密和/或选择性地对文档中的某些个人信息(例如，姓名、社会保险号码等)进行清理。然而，这些技术出于本文所给出的原因而并不完全令人满意。

发明内容

本文中描述了一种用于以保存文档的有用性以便后续分析的方式从文档中去除敏感内容的计算机实现的技术。例如，该技术隐蔽文档中的敏感内容，同时保留文档中的有意义信息以便由诸如机器学习分析引擎之类的机器实现的分析引擎进行后续处理。该技术因此保护了用户的隐私，同时对于更为准确的机器实现的分析引擎的开发有所贡献。

根据一个说明性方面，该技术利用一个或多个通用占位符字符来替代文档中的原始字符，同时保存与该文档相关联的格式和结构。

根据另一个说明性方面，该技术还保存与已经被隐蔽的敏感内容的一个或多个属性相关的信息。例如，该技术可以保存标识与已经被隐蔽的字符串相关联的语法特性的信息、利用其表达该字符串的自然语言等。

根据另一个说明性方面，该技术使用基于一个或多个选择因素所挑选的修改策略从文档中去除敏感内容。一种选择因素识别要在文档已经被匿名化之后对它们执行的处理的性质，例如要应用于所述文档的机器学习的性质。该技术通过挑选保存对经匿名化的文档执行的后续分析中将会最有用的信息的修改策略来对该选择因素加以利用。例如，该技术可以保存与文档中的词语相关的词性信息以适应由任何类型的自然语言分析引擎所执行的后续分析。

以上技术可以在各种类型的系统、设备、组件、方法、计算机可读存储介质、数据结构、图形用户界面演示、制造品中得到证明。

提供了该发明内容以用简化的形式介绍概念的选择；在下文的具体实施方式中所进一步描述了这些概念。该发明内容不旨在标识所要求保护的主题的关键特征或本质特征，也不旨在用来限制所要求保护的主题的范围。

附图说明

图1示出了用于从文档中去除敏感项目的系统。

图2示出了用于实现图1的系统的计算装备。

图3示出了用于结合图1的系统使用的用于存储修改策略集合的数据存储单元，以及用于存储两个或更多个修改规则集合的数据存储单元。

图4示出了作为图1的系统的元件的移除组件的一种实现。

图5-7示出了图1的系统的操作的三个示例。

图8是描述了图1的系统的一种操作方式的流程图。

图9示出了可以用于实现在前述附图中所示的特征的任何方面的计算功能。

在本公开和附图通篇中使用的相同的附图标记来指代相同的组件和特征。100系列附图标记指的是最初在图1中找到的特征、200系列附图标记指的是最初在图2中找到的特征、300系列附图标记指的是最初在图3中找到的特征，以此类推。

具体实施方式

该公开组织如下。A部分描述了用于通过应用深度学习模型、基于与所提交的查询相关联的上下文信息来执行搜索的说明性功能。B部分阐述了解释了A部分中的功能的操作的说明性方法。C部分描述了可以用于实现在A部分和B部分中所描述的特征的任何方面的说明性计算功能。