[发明专利]联邦学习执行流程的安全审计方法、装置及系统

说明书

本发明涉及一种联邦学习执行流程的安全审计方法、装置、系统及存储介质，其中所述方法包括：获取参与方所接收和/或所发送的传输数据，并从所述传输数据中提取：控制流信息，和/或，算法流信息；根据所述控制流信息对联邦学习任务的执行流程进行安全审计；和/或，根据所述算法流信息对联邦学习算法的执行流程进行安全审计；在所述安全审计过程中发现异常或者所述安全审计结束的情况下，生成审计结果。通过本发明的安全审计方法，保障了联邦学习任务尤其涉及多个参与方的情况下执行流程的有序进行和安全性，有效防御了针对联邦学习不同层面上的流程攻击。

技术领域

本发明涉及数据安全和隐私保护技术领域，具体涉及一种联邦学习执行流程的安全审计方法、装置、系统及存储介质。

背景技术

随着人工智能和大数据挖掘分析等应用领域的发展，对数据量的需求越来越大。高质量的数据往往来源于经营活动中产生和积累的应用数据，而应用数据往往分散在不同的组织和个体手上，跨行业跨领域的应用数据往往也是分散的。随着数据所有权的重要性、用户隐私和数据安全等受到更多重视，也随着法律法规对数据收集处理提出更严格的约束和要求，掌握应用数据的各个组织或个体往往不愿意或者没有合适手段进行彼此之间的合作，从而很难让各自掌握的应用数据共同发挥作用。这种数据分享和协同合作方面的困境被称之为数据孤岛现象。为了解决跨行业跨组织的数据合作难题，尤其为解决隐私保护及数据安全的问题，提出了联邦学习的概念。联邦学习指的是拥有数据的各个参与方，在不共享受保护的隐私数据且自有数据不传递到外部的前提下，通过加密的方式交换模型相关信息从而实现协同优化联邦学习模型的过程。

联邦学习算法从理论上保证了数据隐私的安全性，但是在实际的工业着陆中，仍然需要考虑许多安全风险，例如在进行联邦学习任务的过程中可能遭遇到不同的故障发生或者通讯干扰的情况，甚至可能存在恶意的参与方或者恶意的进程以破坏联邦学习任务为目的的恶意攻击，从而使得联邦学习任务的执行效率大大下降，尤其在涉及多个参与方协同进行模型的训练和应用的情况下，如何防御以破坏联邦学习任务为目的的恶意攻击，及保证联邦学习任务的执行效率显得尤其重要，同时也是目前工业级的亟需解决的技术难题。

发明内容

本发明涉及一种联邦学习执行流程的安全审计方法、装置、系统及存储介质，通过本发明的安全审计方法，保障了联邦学习任务尤其涉及多个参与方的情况下执行流程的有序进行和安全性，有效防御了针对联邦学习不同层面上的流程攻击。

第一方面，提供一种联邦学习执行流程的安全审计方法，包括：获取参与方所接收和/或所发送的传输数据，并从所述传输数据中提取：控制流信息，和/或，算法流信息；其中，所述控制流信息与所述参与方所参与的联邦学习任务的执行流程相关，所述算法流信息与所述参与方所参与的联邦学习算法的执行流程相关，所述联邦学习算法为所述联邦学习任务中的算法模块对应的算法；根据所述控制流信息对所述联邦学习任务的执行流程进行安全审计；和/或，根据所述算法流信息对所述联邦学习算法的执行流程进行安全审计；在所述安全审计过程中发现异常或者所述安全审计结束的情况下，生成审计结果。

可能的实施例中，根据所述控制流信息对所述联邦学习任务的执行流程进行安全审计，包括：在所述参与方开启控制流的安全审计权限的情况下，则根据所述控制流信息对所述联邦学习任务的执行流程进行安全审计。

可能的实施例中，根据所述算法流信息对所述联邦学习算法的执行流程进行安全审计，包括：在所述参与方开启算法流的安全审计权限的情况下，则根据所述算法流信息对所述联邦学习算法的执行流程进行安全审计。

可能的实施例中，根据所述控制流信息对所述联邦学习任务的执行流程进行安全审计，包括：根据所述控制流信息，确定所述联邦学习任务的执行流程是否符合参考模块调用列表以及是否符合参考模块调用次序；其中所述参考模块调用列表和所述参考模块调用次序是预先设定的。