[发明专利]一种神经网络的数据隐私保护方法及系统

说明书

本发明涉及一种神经网络的数据隐私保护方法及系统，其包括：对数据进行预处理，产生相应的加密数据，并在分离后发送给不合谋的机器学习服务提供商；构建神经网络模型，根据具体情况设置相关参数，并设计卷积网络神经模型；对预处理后的数据进行特征提取；构建加密预测模块和加密训练模块；将数据输入神经网络模型，利用加密预测模块和加密训练模块进行训练或预测。本发明采用了保序/保分布性质的加密算法以及分离策略来处理用户的原始数据，同时，利用秘密共享和隐私保护的策略处理模型训练和预测的流程，使得方案中训练与预测的效率较高，拥有极高的安全性保障和较好的可扩展性。

技术领域

本发明涉及一种数据安全技术领域，特别是关于一种机器学习中神经网络的数据隐私保护方法及系统。

背景技术

随着算力的提升，神经网络在多个领域得到推广与应用。规模较大的公司依据其海量数据、成熟算法、强大算力训练出具有及时性效果的神经网络模型，并提出MLaaS(Machine Learning as a Service)框架，为其它公司和个人提供机器学习的云端服务。然而，因为模型托管在云端，用户需要上传个人数据，并调取预测接口得到预测结果，用户在数据上传后会失去对数据的控制，并担心自己的数据隐私在上传与预测时被窃取，或者服务端将会滥用数据甚至于买卖数据。同时，高精度的模型依赖大规模数据，但模型可能会暴露这些数据的隐私信息，存储在云端的模型时公司的重要资产，模型的隐私安全也需要得到保护。实际上，在神经网络模型预测过程中，训练数据于模型本身于预测数据的隐私保护问题是一个亟待解决的问题。

目前，已有国内外研究机构和企业对神经网络的隐私保护问题进行了深入的研究，所采取的隐私保护方法可以分为五类：差分隐私，同态加密，安全多方计算，基于可信硬件的隐私保护技术以及联邦学习技术。但它们都存在一定的问题：1、差分隐私技术使得模型的精度下降，预测结果的质量下降。2、同态加密技术运算开销过大，且能够实现的运算有限。而且同态加密生成的密文长度远远大于明文长度，导致训练效率严重下降，因此同态加密在实用性方面较差。3、基于可信硬件的隐私保护技术要求服务提供商，使用专门的设备，部署困难同时难以保障服务提供商按要求部署了设备。4、联邦学习方案采用参数交换的方式，难以抵御推理攻击，从而存在泄露模型使用的训练数据的可能。

发明内容

针对上述问题，本发明的目的是提供一种神经网络的数据隐私保护方法及系统，其具有极高的通用性，能有效保障数据的隐私性，

为实现上述目的，本发明采取以下技术方案：

一种神经网络的数据隐私保护方法，其包括以下步骤：1)对数据进行预处理，产生相应的加密数据，并在分离后发送给不合谋的机器学习服务提供商；2)根据具体情况设置相关参数，并设计卷积神经网络模型；3)对步骤1)中预处理后的数据进行特征提取；4)构建加密预测模块和加密训练模块；5)将数据输入神经网络模型，利用加密预测模块和加密训练模块进行训练或预测。

进一步，所述数据预处理包括以下步骤：

1.1)根据需要选择保序及保分布的加密算法，对用户上传的原始数据进行处理；

1.2)根据计算的需要，将加密后的数据做分离处理；

1.3)将分离好的加密数据传输给不合谋的机器学习服务提供商。

进一步，所述神经网络模型的构建方法包括以下步骤：

2.1)根据用户需求，设定超参数并构建结构层；

2.2)根据步骤2.1)中设定的参数及结构层构建模型；

2.3)将步骤1)中预处理后的数据输入模型，并对模型进行评估。

进一步，所述特征提取包括以下步骤：

3.1)利用get_layer函数获取层对象，并提取flatten层输出的特征，并标