[发明专利]一种防御方法、装置、电子设备及存储介质

说明书

本发明提供一种防御方法、装置及电子设备，涉及攻击防御技术领域，在防御标签恢复攻击和梯度替换后门攻击的基础上，保证主任务的精度不受影响。所述防御方法包括：基于自编码器对输入标签进行自编码，形成软标签。基于解码器对软标签进行解码，形成解码标签。基于输入标签、软标签和解码标签计算第一损失函数。若第一损失函数不收敛，则基于第一损失函数对自编码器和解码器进行训训，获得训练后的自编码器和解码器，并转至上述步骤，进行迭代循环。所述防御装置应用于上述防御方法。所述防御方法应用于电子设备中。

技术领域

本发明涉及攻击防御技术领域，具体而言，涉及一种防御方法、装置、电子设备及存储介质。

背景技术

针对纵向联邦学习中的基于梯度的标签恢复攻击和梯度替换攻击，现有保护技术主要是利用差分隐私和梯度稀疏化的措施来防御。上述两种防御方法虽然能够在一定程度上防御攻击，但同时也较大地损失了主任务模型的精度。

发明内容

本发明的目的在于提供一种防御方法、装置、电子设备及存储介质。在防御上述攻击的同时，能够保证主任务的精度。

为了实现上述目的，本发明提供一种防御方法，该方法包括：

步骤1：基于自编码器对输入标签进行自编码，以形成软标签；

步骤2：基于解码器对软标签进行解码，以形成解码标签；

步骤3：基于输入标签、软标签和解码标签计算第一损失函数；

步骤4：判断第一损失函数是否收敛；

步骤5：若否，则基于第一损失函数对自编码器和解码器进行训练，获得训练后的自编码器和解码器，并转至步骤1。

优选地，第一损失函数公式为：

其中，为第一损失函数，为第一分量，为第二分量，为可调的超参数。

优选地，第一分量公式为：

其中，为第一分量，为输入标签，为软标签，为解码标签，CE为交叉熵损失函数，为可调的超参数。

优选地，第二分量公式为：

其中，为第二分量，为熵函数。

优选地，软标签与输入标签的差异大于第一预设差异；

解码标签与输入标签的差异小于第二预设差异；

软标签的离散程度大于预设离散程度。

与现有技术相比，本发明提供的一种防御方法中，首先利用自编码器对输入标签进行自编码形成软标签，然后利用解码器对软标签进行解码形成解码标签，接着根据输入标签、软标签和解码标签计算第一损失函数。如果第一损失函数不收敛，则需要通过计算出的第一损失函数对自编码器和解码器进行训练，利用训练后的自编码器对输入标签重新自编码，利用训练后的解码器对软标签重新解码，根据重新自编码和解码出的软标签和解码标签重新计算第一损失函数，迭代循环，直至第一损失函数收敛。如果第一损失函数收敛，则说明利用训练好的解码器解码出的解码标签相对于输入标签几乎是无损的，而且训练好的自编码器编码出的软标签与输入标签的差异非常大，并且训练好的自编码器编码出的软标签的离散程度很大，即输入标签通过自编码器映射到其他多个软标签的概率比较平均，输入标签通过训练好的自编码器可以映射为多个不同的软标签，起到很好的混淆攻击方的效果。而且在防御的基础上解码标签与输入标签的差异很小，几乎无损，进而保证了主任务的精度。

本发明还提供一种防御装置，该装置包括：

编码模块，用于基于自编码器对输入标签进行自编码，以形成软标签;