[发明专利]联邦学习审计装置、系统及方法

说明书

本申请涉及数据安全和隐私保护技术领域中的一种联邦学习审计装置、系统及方法。联邦学习审计装置包括：数据收集模块，用于获得参与方所接收或者发送的数据包；和数据分析模块，用于根据参与方的审计级别而开启控制流审计、算法流审计以及数据流审计中的一种或者多种，从而审计数据包并生成审计结果。控制流审计用于校验数据包的控制流信息且与参与方所参与的联邦学习任务相关。算法流审计用于检验数据包的算法流信息且与联邦学习算法相关。数据流审计用于校验数据包的数据流信息，数据流信息与参与方的通信数据相关。通过不同的审计级别和设定各自独立的审计机制，可以满足每个参与方对通信和计算的安全性多样化的诉求，有利于系统整体安全性。

技术领域

本申请涉及数据安全和隐私保护技术领域，具体涉及一种联邦学习审计装置、系统及方法。

背景技术

随着人工智能和大数据挖掘分析等应用领域的发展，对数据量的需求越来越大。例如训练人工智能的应用模型需要使用大量带有合适的数据标签或者特征数值的训练数据。高质量的数据往往来源于经营活动中产生和积累的应用数据。但是应用数据往往分散在不同的组织和个体手上，例如交易数据分散在各个金融机构，医疗诊断数据分散在各个医疗机构。跨行业跨领域的应用数据往往也是分散的，例如互联网领域的社交属性数据和电商交易数据往往由不同实体掌控。随着数据所有权的重要性、用户隐私和数据安全等受到更多重视，也随着法律法规对数据收集处理提出更严格的约束和要求，掌握应用数据的各个组织或个体往往不愿意或者没有合适手段进行彼此之间的合作，从而很难让各自掌握的应用数据共同发挥作用。这种数据分享和协同合作方面的困境被称之为数据孤岛现象。为了解决跨行业跨组织的数据合作难题，尤其是关键的隐私保护及数据安全的问题，提出了联邦学习的概念。联邦学习指的是拥有数据的各个参与方，在不共享受保护的隐私数据且自有数据不传递到外部的前提下，通过加密的方式交换模型相关信息从而实现协同优化联邦学习模型。其中，联邦学习根据训练数据在不同参与方之间的数据特征空间和样本空间的分布情况，可以划分为在数据特征空间重叠较大而在样本空间重叠较小的横向联邦学习，在数据特征空间重叠较小而在样本空间重叠较大的纵向联邦学习，以及在数据特征空间和样本空间均重叠较小的联邦迁移学习。

联邦学习的各个参与方有大量的数据在彼此之间传输，因此有巨大的出入通信/流量的需求，而且在参与方之间传递的数据往往是加密后得到的大整数位宽的密态数据从而进一步提高了出入通信/流量的需求。其中，参与方可以是联邦学习模型的服务提供方，联邦学习模型的用户或查询方，或者任意联邦学习框架下的任意适合角色，例如FATE开源框架下的是三种角色也即数据的提供者(Host)、数据的应用方(Guest)及联邦学习模型的裁决方(Arbiter)中的一种。这些参与方基于自身角色定位和实际需求，并且各自在协同优化联邦学习模型或者使用联邦学习服务时可能遭遇到不同的故障发生或者通讯干扰的情况，因此对通信和计算的安全性有变化的多样化的诉求。另外还可能存在恶意的攻击方，从而使得通信和计算的安全性受到威胁。为此，需要一种解决方案不仅可以高效高速地审计各个参与方各自的出入通信/流量，例如审计某个参与方接收或者发送的数据流量或者数据包并且将可能的错误或者恶意信息报告给管理方，而且能够满足不同参与方各自的对通信和计算的安全性方面的变化的多样化的诉求，从而有利于确保联邦学习参与方特别是有众多参与方参与的联邦学习任务情况下的通信和计算的安全性。

发明内容

本申请实施例为了解决，如何不仅可以高效高速地审计各个参与方各自的出入通信/流量而且能够满足不同参与方各自的对通信和计算的安全性方面的变化的多样化的诉求，这样的技术难题，通过提供了一种联邦学习审计装置、系统及方法，从而实现了通过不同的审计级别和设定各自独立的审计机制，可以满足每个参与方对通信和计算的安全性多样化的诉求，有利于系统整体安全性。