[发明专利]一种面向云边聚合系统的多重差分隐私保护方法及系统

说明书

本发明公开了一种面向云边聚合系统的多重差分隐私保护方法及系统，在每个边缘服务器上利用其自身的原始数据来对全局模型进行训练，得到每个边缘服务器的本地模型参数，采用GRR机制对每个边缘服务器的本地模型参数进行扰动，得到每个边缘服务器扰动后的本地模型参数；将每个边缘服务器扰动后的本地模型参数发送到云中心服务器，并在云中心服务器进行参数聚合，得到聚合后的全局模型参数，向聚合后的全局模型参数中加入拉普拉斯噪声，得到加噪处理的全局模型参数。优点：在云中心服务器与边缘客户端中进行二重加噪，不仅可以防范整个训练模型外部攻击者对于用户隐私数据的窃取，也能够保证对于半诚实的云中心服务器对于用户原始数据的直接获取。

技术领域

本发明涉及一种面向云边聚合系统的多重差分隐私保护方法及系统，属于网络信息安全与数据隐私保护技术领域。

背景技术

随着人工智能技术的不断发展与演化，在机器学习的计算过程中，模型训练学习的参与方除了对模型训练的效果有着较高程度地要求之外，对于训练过程中，自身用于训练的数据隐私是否得到了有效的保护，也愈发得到人们的重视。因此，如何保护参与学习各方的数据隐私不被泄露，从而提高各方参与到学习中的意愿，是如今机器学习研究中不可或缺的一方面。

在云边聚合计算（Cloud-Edge Computing，CEC）环境中，云中心服务器与各边缘服务器拥有着各层次、各类型的计算方式与资源，利用云边聚合计算的方式能够更好地整合与利用各类资源，充分发挥云中心服务器与各边缘服务器的特点，实现更大范围的协作与资源共享，达成资源利用最大化的效果。

而尽管集中建设、管理的云中心服务器相比于传统的中心服务器而言，更为安全可信，但对于提供数据资源的边缘服务器而言，仍然无法避免中心服务器直接接触原始数据的问题，各边缘服务器对于自身所提供的的原始数据安全问题，也会影响到参与云边聚合计算的服务器数量与用户热情。

针对这一问题，Google提出了联邦学习(Federated Learning)这一概念，联邦学习这一方法，其本质是一种分布式的机器学习，它可以使参与到其中的各个数据拥有者，其原始数据存留在本地，而不需要上传至中心服务器，本地用户与中心服务器之间，仅需要交互模型参数或计算的中心结果，这种“数据不动模型动”的交互模式，可以保证中心服务器在进行学习的过程当中，无法推测出本地用户的原始数据，能够满足数据拥有者对于数据隐私保护的需要，极大提高数据拥有者参与机器学习的热情。

尽管联邦学习的训练结构可以在一定程度上能够保护云边聚合计算中用户的原始数据，但在实际应用的过程中仍需与传统机器学习中的隐私保护方法进行结合，来更好地保护用户的隐私不被窃取。其中，差分隐私方案是目前应用最为广泛的机器学习隐私保护方案，主要包括有中心化差分隐私与本地化差分隐私两种方案。但单一的中心化与本地化差分隐私在应用到云边聚合计算平台时，均有着不同的不足之处，其主要如下：

1)单一的中心化差分隐私保护技术仍然会使得中心服务器直接接触到用户的原始数据，要求中心服务器是完全可信任的，仅能保护用户数据不被外部攻击者所窃取，尽管云边聚合计算中的云中心服务器已经较为可信，但目前而言，一个完全可信的中心服务器在实际应用中是几乎不可能实现的。

2)本地化差分隐私能够在用户本地提交数据前便对用户的原始数据进行加密，但是为了消除中心服务器的影响，本地化差分隐私直接删除了中心服务器的存在，而在云边聚合计算中，云中心服务器是不可或缺的，直接的本地化差分隐私方案无法在云边聚合计算中直接应用。

3)在本地进行随机扰动后，由云中心服务器进行聚合取均值来进行加密的方法，会随着迭代次数的不断增加，隐私保护的程度逐渐降低，同时带来模型训练准确度的下降。

发明内容

本发明所要解决的技术问题是克服现有技术的缺陷，提供一种面向云边聚合系统的多重差分隐私保护方法及系统。

为解决上述技术问题，本发明提供一种面向云边聚合系统的多重差分隐私保护方法，包括：