[发明专利]联邦学习审计装置、系统及方法

权利要求书

1.一种联邦学习审计方法，其特征在于，所述联邦学习审计方法包括：

获得参与方所接收和/或发送的数据包；和

根据所述参与方的审计级别而开启控制流审计、算法流审计以及数据流审计中的一种或者多种，从而审计所述数据包并生成审计结果，

其中，所述控制流审计用于校验所述数据包的控制流信息，所述控制流信息与所述参与方所参与的联邦学习任务相关，

所述算法流审计用于检验所述数据包的算法流信息，所述算法流信息与联邦学习算法相关，所述联邦学习算法对应所述联邦学习任务中的模块，

所述数据流审计用于校验所述数据包的数据流信息，所述数据流信息与所述参与方的通信数据相关，

其中，所述控制流信息包括与所述参与方所参与的联邦学习任务相对应的模块调用列表和模块调用次序，所述算法流信息包括所述联邦学习算法的执行流程，所述通信数据与所述联邦学习任务或者所述联邦学习算法相关，

其中，当且仅当所述控制流审计被开启时，所述数据包的所述控制流信息被收集，

其中，当且仅当所述算法流审计被开启时，所述数据包的所述算法流信息被收集，

其中，当且仅当所述数据流审计被开启时，所述数据包的所述数据流信息被收集。

2.根据权利要求1所述的联邦学习审计方法，其特征在于，所述联邦学习审计方法还包括：

根据所述审计结果来判断所述数据包是否存在错误，并且根据判断结果确定是否让所述数据包用于所述联邦学习任务或者所述联邦学习算法。

3.根据权利要求1所述的联邦学习审计方法，其特征在于，所述联邦学习审计方法还包括：

根据所述审计结果来判断所述数据包是否存在错误，在进行判断同时继续让所述数据包用于所述联邦学习任务或者所述联邦学习算法。

4.根据权利要求1所述的联邦学习审计方法，其特征在于，所述控制流审计包括，根据所述数据包的控制流信息，确定与所述联邦学习任务相对应的模块调用列表是否与参考模块调用列表一致以及确定与所述联邦学习任务相对应的模块调用次序是否与参考模块调用次序一致，其中，所述参考模块列表和所述参考模块调用次序均预先设定。

5.根据权利要求4所述的联邦学习审计方法，其特征在于，根据所述数据包的控制流信息，确定与所述联邦学习任务相对应的模块调用列表是否与所述参考模块调用列表一致以及确定与所述联邦学习任务相对应的模块调用次序是否与所述参考模块调用次序一致，包括：根据所述数据包的控制流信息，判断与所述联邦学习任务相对应的模块调用列表和与所述联邦学习任务相对应的模块调用次序是否均符合用于控制流审计的有限状态机FSM，其中，所述用于控制流审计的FSM预先设定。

6.根据权利要求5所述的联邦学习审计方法，其特征在于，所述用于控制流审计的FSM是多个预设的联邦学习任务FSM之一，所述多个预设的联邦学习任务FSM与多个联邦学习任务一一对应，所述多个联邦学习任务包括以下至少一种任务：纵向安全梯度提升树任务、纵向逻辑回归任务、本地sklearn逻辑回归任务、纵向线性回归任务、纵向泊松回归任务、横向逻辑回归任务、横向神经网络任务、纵向快速安全梯度提升树任务、纵向神经网络任务、横向安全梯度提升树任务、纵向联邦迁移学习任务、纵向k-means任务、Feldman安全求和任务。

7.根据权利要求6所述的联邦学习审计方法，其特征在于，所述多个预设的联邦学习任务FSM均是有向无环图DAG并且可通过拓扑排序被转化为一个或者多个单向无分叉的DAG。

8.根据权利要求7所述的联邦学习审计方法，其特征在于，获得所述参与方所接收或者发送的数据包，包括：根据所述多个预设的联邦学习任务FSM中与所述参与方所参与的联邦学习任务相对应的FSM，确定抓取间隔，并根据所述抓取间隔来间隔地获得所述参与方所接收或者发送的数据包。