[发明专利]一种横向联邦学习系统防御方法

权利要求书

1.一种横向联邦学习系统防御方法，其特征在于，包括以下步骤：

步骤1，输入:梯度集{gi(t)}n i＝1，梯度模的下界L，上界R，统计抽样比例β，抽样维度数a，输出:聚合梯度g^-(t)，初始化:计算每个梯度gi(t)的模{∥gi(t)∥}ni＝1；

步骤2，基于梯度模的过滤：计算梯度模的中值M＝median{∥gi(t)∥2}n i＝1，将满足L≤∥g(t)i∥2M≤R的梯度加入到集合S1中；

步骤3，基于符号统计量、余弦分数和异常分数的聚类，根据比例β随机选择梯度坐标的子集，在随机坐标子集上计算梯度的符号统计量{(pi,zi,ni)}n i＝1，输入{gi(t)}n i＝1执行余弦分数计算算法得到{simi}n i＝1，输入{gi(t)}n i＝1与a执行异常分数计算算法得到{dnci}n i＝1，将{(pi,zi,ni,simi,dnci)}n i＝1作为输入训练一个Mean-Shift聚类模型，选择具有最多元素的簇，将其中的梯度加入到集合S2中；

步骤4，聚合：求S1和S2的交集得到可信集合St，计算聚合梯度g^-(t)＝1|St|∑gi(t)∈St gi(t)·min(1,Mg(i)t)，Return g^-(t)。

2.根据权利要求1所述的一种横向联邦学习系统防御方法，其特征在于：步骤4中，聚合服务器的梯度聚合阶段，采用SignGuard-SaD算法，其步骤为：输入:学习率η，总迭代数T，客户数n，初始化:初始化模型参数W(0)∈Rd，for t in{1,2,···,T}do，每一个用户i执行：从数据集Di中随机抽小批量样本集b来计算随机梯度gi(t)，将梯度gi(t)上传给聚合服务器，等待接收聚合服务器下发的全局梯度g^-(t)，更新本地模型Wi(t)＝Wi(t-1)-ηg^-(t)。

3.根据权利要求2所述的一种横向联邦学习系统防御方法，其特征在于：聚合服务器的执行步骤为：

收集所有用户发来的本地梯度gi(t)；

计算全局梯度g^-(t)＝SignGuard-SaD({gi(t)}n i＝1；

end for。

4.根据权利要求1所述的一种横向联邦学习系统防御方法，其特征在于：步骤3中，异常分数异常分数计算算法步骤为：

输入:梯度集{gi}n i＝1；抽样维度a；

输出:异常分数集合{dnci}n i＝1；r←从d维中随机抽取a个作为有序维度集合；

for iin{1,2,···,n}do；

g^～i←使用有序维度集合r中的维度对梯度gi执行下采样；end for；

μ←1n∑n i＝1g^～i；

M←堆叠{(^～gi-μ)}n i＝1成一个n×a维矩阵；

v←计算矩阵M的右上奇异特征向量；

for iin{1,2,···,n}do；

dnci＝(E gi-μ,v)²end for；

θ←median({dnci}i∈[1,n])；

max←max({dnci}i∈[1,n])；

for i in{1,2,···,n}do；

if dnci≤θthen；dnci←0；

Else；

dnci←dnci-θmax-θ×0.2；

end if；

end for；

Return{dnci}n i＝1。

5.根据权利要求1所述的一种横向联邦学习系统防御方法，其特征在于：步骤3中，余弦分数计算算法步骤为：

输入:梯度集{gi}n i＝1；

输出:余弦分数集合{simi}n i＝1；

for iin{1,2,···,n}do；

simi←median(cos(gi,gj)}j∈[1,n],j＝i)；

end for；

θ←median({simi}i∈[1,n])；

min←min({simi}i∈[1,n])；

for i in{1,2,···,n}do；

if simi≥θthen；

simi←0.2；

else；

simi←simi-minθ-min×0.2；

end if；

end for；

Return{simi}n i＝1。