[发明专利]一种基于迁移学习生成无偏见深度学习模型的方法

权利要求书

1.一种基于迁移学习生成无偏见深度学习模型的方法，其特征在于，包括以下步骤：

(1)获取样本图像，并标记样本图像的任务标签和偏见标签，构建原始数据集；

(2)利用原始数据集中图像数据和任务标签对由第一特征提取器和第一分类器组成的有偏见深度学习模型进行训练，得到训练好的有偏见深度学习模型；

(3)构建并训练对抗攻击网络，利用训练好的对抗网络对原始数据集进行攻击，得到与原始数据集对应的无偏见数据集，以使得无偏见数据集中的偏见标签不可以预测；

(4)利用无偏见数据集训练与有偏见深度学习模型结构相同的初始无偏见深度学习模型；

(5)准备第三特征提取器，利用第三特征提取器对原始样本图像提取的特征分布和利用无偏见深度学习模型的第二特征提取器对原始样本图像对应的无偏见图像提取得到的特征分布构建损失函数，利用损失函数优化第三特征提取器参数，参数确定的第三特征提取器与训练好的初始无偏见深度学习模型包含的第二分类器组成无偏见深度学习模型。

2.如权利要求1所述的基于迁移学习生成无偏见深度学习模型的方法，其特征在于，所述构建并训练对抗攻击网络包括：

构建对抗攻击网络，包括由卷积层和全连接层，激活函数采用ReLU函数，对抗攻击网络的输入为原始样本图像经过训练好的第一特征提取器提取的特征分布，输出是logits层，经过softmax函数得到原始样本图像的偏见标签的预测概率分布；

构建对抗攻击网络的损失函数Loss_NAdv，该损失函数旨在使对抗攻击网络根据原始样本图像对应的特征分布预测偏见标签的概率分布，计算公式为：

其中，z_i是原始样本图像x_i经过训练好的有偏见深度学习模型的第一特征提取器的输出；B_i是原始样本图像x_i的真实偏见标签；nadv(·)表示对抗攻击网络的输出；L(·)表示交叉熵函数，i为原始样本图像的索引，N为原始样本图像的总个数；

利用损失函数Loss_NAdv对对抗攻击网络进行训练，以优化对抗攻击网络的模型参数。

3.如权利要求2所述的基于迁移学习生成无偏见深度学习模型的方法，其特征在于，利用训练好的对抗网络对原始数据集进行攻击，得到与原始数据集对应的无偏见数据集包括：

(a)设计扰动变量r；

(b)该扰动变量r添加到原始样本图像x_i，得到扰动样本图像，利用训练好的有偏见深度学习模型的第一特征提取器提取扰动样本图像的扰动特征分布；

(c)利用训练好的对抗攻击网络对扰动特征分布进行计算，得到预测概率分布，根据预测概率分布计算损失Loss_Adv，在迭代次数没有达到最大迭代次数时，根据损失Loss_Adv更新扰动变量r，跳转执行步骤(b)，直到达到最大迭代次数时为止，输出利用最新扰动变量r得到的扰动样本图像作为无偏见图像，组成无偏见数据集；

损失Loss_Adv的计算公式为：

Loss_Adv＝-αLoss_NAdv+Loss_Y

其中，α为超参数，取值范围为0～1，Loss_Y是除偏见标签外任务标签的损失函数值，计算公式为：

其中，c₁(·)表示有偏见深度学习模型的第一分类器的预测输出，y_i表示原始样本图像x_i的任务标签。

4.如权利要求1所述的基于迁移学习生成无偏见深度学习模型的方法，其特征在于，优化第三特征提取器参数的损失函数Loss_tl为：

Loss_tl＝∑L(h,h')

其中，h表示原始样本图像x_i经过第三特征提取器输出的特征分布，h'表示无偏见深度学习模型的第二特征提取器对原始样本图像x_i对应的无偏见图像提取得到的特征分布。

5.如权利要求1所述的基于迁移学习生成无偏见深度学习模型的方法，其特征在于，在获取样本图像后，对样本图像进行旋转、翻转、颜色增强、添加高斯噪声、随机缩放，以扩充样本图像，偏见标签包括种族标签、地域标签、性别标签。