[发明专利]用于联邦学习安全审计的密钥管理系统、方法及存储介质

说明书

本申请涉及一种用于联邦学习安全审计的密钥管理系统、方法及存储介质。密钥管理系统包括：用户接口模块用于接收用户的请求；密钥服务处理模块，配置成生成特定于所述用户的可见密钥空间，特定于所述用户的可见密钥空间中的密钥可用于响应所述用户的请求；密钥生成模块；和密钥存储模块。密钥存储模块所保存的每个密钥的状态根据与该密钥对应的联邦学习任务是否结束以及与该联邦学习任务对应的安全审计需求是否满足而确定。本申请的发明不仅能满足各种联邦学习框架和软件产品对规范性和安全性的要求，而且考虑到后续的安全审计的需求，以及同一个参与方的不同个体或者不同参与方在权限、隐私、隔离要求等方面的差异。

技术领域

本申请涉及数据安全和隐私保护技术领域，具体涉及一种用于联邦学习安全审计的密钥管理系统、方法及存储介质。

背景技术

随着人工智能和大数据挖掘分析等应用领域的发展，对数据量的需求越来越大。例如训练人工智能的应用模型需要使用大量带有合适的数据标签或者特征数值的训练数据。高质量的数据往往来源于经营活动中产生和积累的应用数据。但是应用数据往往分散在不同的组织和个体手上，例如交易数据分散在各个金融机构，医疗诊断数据分散在各个医疗机构。跨行业跨领域的应用数据往往也是分散的，例如互联网领域的社交属性数据和电商交易数据往往由不同实体掌控。随着数据所有权的重要性、用户隐私和数据安全等受到更多重视，也随着法律法规对数据收集处理提出更严格的约束和要求，掌握应用数据的各个组织或个体往往不愿意或者没有合适手段进行彼此之间的合作，从而很难让各自掌握的应用数据共同发挥作用。这种数据分享和协同合作方面的困境被称之为数据孤岛现象。为了解决跨行业跨组织的数据合作难题，尤其是关键的隐私保护及数据安全的问题，提出了联邦学习的概念。联邦学习指的是拥有数据的各个参与方，在不共享受保护的隐私数据且自有数据不传递到外部的前提下，通过加密的方式交换模型相关信息从而实现协同优化联邦学习模型。其中，联邦学习根据训练数据在不同参与方之间的数据特征空间和样本空间的分布情况，可以划分为在数据特征空间重叠较大而在样本空间重叠较小的横向联邦学习，在数据特征空间重叠较小而在样本空间重叠较大的纵向联邦学习，以及在数据特征空间和样本空间均重叠较小的联邦迁移学习。

随着联邦学习的发展，越来越多参与方开始通过联邦学习框架来协同优化联邦学习模型，但是各个参与方往往自行生成密钥包括用于对明文加密的公钥和用于解密的私钥，并且在完成梯度模型的加解密任务后可能丢失了解密必需的私钥，从而给后续的安全审计造成障碍，也对整个联邦学习的规范性和安全性造成威胁。并且，同一个参与方可能有不同个体在不同时间代表该参与方来创建或者删除密钥，而这些个体彼此之间可能有不同的权限或者有隔离要求或者缺乏有效的密钥管理记录。为此，需要一种用于联邦学习安全审计的密钥管理系统、方法及存储介质，不仅能满足各种联邦学习框架和软件产品对规范性和安全性的要求，而且能有效记录和管理密钥的创建和删除等操作以及考虑到后续的安全审计的需求，并且能考虑同一个参与方的不同个体或者不同参与方在权限、隐私、隔离要求等方面的差异。

发明内容

本申请实施例为了解决如何不仅能满足各种联邦学习框架和软件产品中为了各参与方协同优化联邦学习模型而对联邦学习框架的规范性和安全性提出的要求，而且能有效记录和管理密钥的创建和删除等操作以及考虑到后续的安全审计的需求，并且能考虑同一个参与方的不同个体或者不同参与方在权限、隐私、隔离要求等方面的差异，这样的技术难题，通过提供了一种用于联邦学习安全审计的密钥管理系统、方法及存储介质，从而实现了有效应对联邦学习应用中各种复杂环境下对数据获取权限的不同要求特别是涉及到安全审计的场景，而且有效应对同一个参与方的不同个体或者不同参与方在权限、隐私、隔离要求等方面的差异。