[发明专利]在移动群智感知系统中可验证的隐私保护方法

说明书

本发明提供一种在移动群智感知系统中可验证的隐私保护方法，采用层次同态加密LHE加密所有与用户相关的数据，如模型的参数、用户的查询请求和验证结果，包括步骤：1)低次多项式生成步骤：服务器使用通用的函数逼近算法将神经网络中的非线性激活函数转化为低次多项式；2)敏感数据生成步骤：服务器生成通用的敏感样本来验证过程中模型参数的正确性；3)基于LHE的隐私保护：当传输高熵数据时，服务器使用进行原明文域下的LHE；当传输低熵数据时，服务器则先增加数据熵，再进行LHE。

技术领域

本发明具体涉及信息安全技术，特别涉及在移动群智感知系统中可验证的隐私保护技术。

背景技术

深度学习作为一种新兴的技术，在人脸识别，遥感图像分类等方面有良好的应用前景。

遥感图像中包含着大量的数据信息，数据被广泛应用于各行各业。但是，对遥感图像分类是较为困难的，传统的遥感图像分类方法难以将有价值的信息准确分离出来。将深度学习技术应用于遥感图像分类中，通过建立合适的深度学习模型，同时结合使用特定的优化算法，则可以取得很好的分类效果，这已成为当前遥感图像分类技术的发展趋势。为了支持自动化服务，许多知名公司(如谷歌、Microsoft和Amazon)提供外包的深度学习服务，这些服务只需要用户将本地数据上传到云中。

然而，但将深度学习外包给云也带来了各种各样的安全和隐私问题。直观地说，一旦用户将其模型外包给服务器，服务器就有可能滥用用户的模型参数，甚至利用验证服务来收集用户的敏感数据。甚至可能通过篡改模型参数和压缩原模型结构，向用户返回不正确的结果。为了应对这一挑战，目前提出了一种在不可信云上验证深度神经网络执行的方法，将某些类型的深度学习网络转换成算术电路，然后通过与服务器的多次交互来验证返回结果的正确性，也有利用可信硬件、交互证明系统等多种技术实现了类似的任务。

然而，这些方法主要关注计算的完整性(或正确性)，它们很难检测到对模型完整性的攻击。而且现有的可验证方案大多没有考虑外包验证过程中的隐私保护问题。也就是说，用户的私有数据，如模型的参数、查询请求和推断结果都将向服务器公开。这就不可避免地为攻击者提供了一个大的攻击面来侵犯用户的隐私。因此,在外包验证模型的基础上设计一种通用的可验证协议，在保护用户隐私的同时对模型的变化保持敏感，是一个迫切需要解决的问题。

发明内容

本发明所要解决的技术问题是，提供一种适用于遥感图像分类的，对模型的完整性和用户的隐私安全而言有效的，可验证的方法。

本发明为解决上述技术问题所采用的技术方案是，在移动群智感知系统中可验证的隐私保护方法，采用层次同态加密LHE(Leveled Homomorphic Encryption)加密所有与用户相关的数据，如模型的参数、用户的查询请求和验证结果，包括以下步骤：

1)低次多项式生成步骤：服务器使用通用的函数逼近算法将神经网络中的非线性激活函数(如ReLU、Sigmoid、Tanh)转化为低次多项式；这将有助于LHE在一般深度神经网络DNNs中的高效实现。函数逼近算法给定一个确定的误差界ε，利用任何连续函数M(x)可以用Bernstein多项式拟合的定理，将原激活函数变换为一个低阶多项式P^*(x)；

2)敏感数据生成步骤：服务器生成通用的敏感样本来验证过程中模型参数的正确性。首先进行初始化，即定义的迭代的数量和分配一个随机的原始样品给敏感样本c；接着建立优化函数，使用梯度上升技术找到约束条件下的最佳灵敏度样本赋值给敏感样本c，再利用敏感样本对模型参数的正确性进行验证生成验证结果f(ω,c)，最后生成待返回给用户的敏感样本及验证结果{c,f(ω,c)}；