[发明专利]一种针对用户数据的全自动数据隐私保护系统

说明书

本发明公开了一种针对用户数据的全自动数据隐私保护系统，该系统能够对用户指定的智能应用程序进行智能模块的查找、切分并将其重新打包成可独立运行测试的智能应用，同时针对此重新打包的智能应用适应性地生成IM专属的数据保护器，从而有效地为不同的智能应用生成可以平衡用户数据权益保护和深度学习推理质量的数据保护方案。该系统所提供的数据保护对App DL服务质量几乎没有影响，即IM在受保护用户输入上的推断结果与在未受保护图像上的推断结果几乎相同，但可以使用户数据免于受到如大规模人脸匹配而造成的隐私泄漏的危害。

技术领域

本发明涉及一种针对用户数据的全自动数据隐私保护系统，属于数据隐私保护技术领域。

背景技术

配备了功能强大的深度学习（DL）服务的移动智能应用（Intelligent App）近年来迅速流行了起来。这些智能应用通过将深度学习模型部署在智能手机本地或远程云平台上，提供各种高质量的智能推断服务，例如照片美颜、增强现实和视频裁剪。用户在享受这些移动智能应用对工作和生活带来的改善的同时，也深切关注自己提供给智能应用的数据的权益保障问题。例如，当用户把家人团聚或朋友聚会的照片提交给贪婪的智能应用提供商时，这些应用提供商们可能通过使用先进的人脸匹配算法，很容易地从用户提供的数据中推断出用户的社交关系。

目前，即使用户主观上不愿意通过牺牲个人数据权益来换取智能服务的便利，用户自己也几乎无能为力。他们不得不强迫自己相信其所面对的智能应用程序提供商都是善意的，希望这些服务商不会滥用自己用于特定服务的个人数据。用户们只能等待应用程序提供商向他们提供任何数据权限选项，无论这些数据权限选项多么荒谬和过时，用户只要想使用这些智能应用便只能选择同意。例如，从一些应用程序提供商的角度来看，保护隐私等用户数据权益等价于减少其秘密收集的数据量或明确要求用户在使用其服务之前放弃数据权益。用户要想让自己的数据权益得到真正的保护，大多数情况下唯一能做的就是停止使用这些应用程序。

目前，针对DL推理场景，学术界已经提出了一些隐私解决方案。现有方案都需要DL模型所有者的合作，也需要部署此方案的参与者有着深度学习的相关专业知识和大量的计算资源。这些条件对于想要积极主动保护自身数据权利的普通用户来说，基本无法满足。因此，用户们希望找到一个技术方案，帮助他们实现自主的数据权益保护，比如在其将数据发送给智能应用前，可以先对自己的数据进行保护，这样无论服务提供商是否是恶意、贪婪的，用户都能尽最大可能保护自己的权益。

在使用应用程序时，虽然说用户在客户端侧对输入数据的控制在法律上是合规的、在设计上也是合理的，但是在现实中真正实现自主的输入数据控制是具有挑战的。这是因为在用户端评估应如何将数据提供给智能应用时，用户希望在尽可能少的向智能应用提供数据访问权限的同时，对所用DL应用的服务质量影响做到最小，具体来说挑战如下：首先，用户没有智能应用的源代码和任何来自智能应用提供商的帮助，因此很难在App的智能应用程序中找到DL模型及其相关使用代码，以进行数据权益保护分析；其次，即使定位到应用程序中的深度学习模型和相关代码，这些模型对用户来说也是黑盒的，因此无法利用反向传播等技术搜索合适的数据权限控制方法，更不用说用户通常是不具有深度学习和黑客技术的。最后，用户所拥有的用于生成数据权益保护方案的资源是有限的，大多数用户家里没有GPU 服务器，也未必愿意花费大量的时间寻找权益保护方案。

发明内容

发明目的：针对现有技术所存在的问题，本发明提供一种针对用户数据的全自动数据隐私保护系统，利用其新颖的静态程序切片技术和面向深度学习推断的数据保护技术，在现有的移动智能应用场景下，完全自动化的实现数据权利保护方案的生成和部署。

技术方案：为实现上述目的，本发明提供一种针对用户数据的全自动数据隐私保护系统，包括以下模块：

IM打包模块：用于根据用户提供的智能应用程序进行IM提取，并将其重新打包为可执行的智能应用；

保护器生成模块：用于针对所打包的智能应用自适应地生成数据保护器，并通过将该保护器嵌入到原始智能应用程序中的方式来自动增强该智能应用。