[发明专利]一种增强图模型抗攻击能力的方法和系统

权利要求书

1.一种增强图模型抗攻击能力的方法，其中，所述方法包括：

获取目标图数据，所述目标图数据包括第一点集V1以及边集E；

任意生成n条边的扰动边集ΔE，其中，所述n条边的节点构成第二点集V2，所述n条边的节点均存在于所述第一点集V1中；

从所述第二点集V2中任意选择一个修正点；

从所述第一点集V1中任意选择若干个点构成所述修正点的候选目标点集V3；

从所述候选目标点集V3中选择一个目标点，并利用选择的所述目标点替换所述修正点，以更新所述扰动边集ΔE得到扰动边集ΔE′；

基于所述扰动边集ΔE′调整所述边集E得到调整后的目标图数据，在所述调整后的目标图数据输入所述图模型的输出结果与对应该输出结果的真实结果之差的绝对值增大时，接受该次替换；

重复从所述第二点集V2中选择修正点并迭代调整所述边集E，得到对抗图数据；

基于该对抗图数据，调整所述图模型，以增强所述图模型的抗攻击能力。

2.如权利要求1所述的方法，其中，所述n为所述边集E中边的数量的1％～5％。

3.如权利要求1所述的方法，其中，所述重复从所述第二点集V2中选择修正点并迭代调整所述边集E，得到对抗图数据，包括：

重复执行从所述第二点集V2中任意选择一个修正点的步骤，至基于所述扰动边集ΔE′调整所述边集E的步骤，并在重复执行所述步骤的次数大于或等于次数阈值时，将当前得到的所述目标图数据作为所述对抗图数据。

4.如权利要求1所述的方法，其中，所述基于所述扰动边集ΔE′调整所述边集E，包括：

对于所述扰动边集ΔE中的每一边，若所述边集E中存在该边，则从所述边集E中删除该边；若所述边集E中不存在该边，则在所述边集E中增加该边。

5.如权利要求1所述的方法，其中，在所述调整后的目标图数据的损失函数值增大时，判定所述输出结果与对应该输出结果的真实结果之差的绝对值增大，所述损失函数值为交叉熵，该交叉熵如下所示：

其中，L_f为所述交叉熵，G为所述目标图数据，v_i为所述目标图数据中的点，c用于表征所述点v_i的预测类别，y_c为指示变量，在所述点v_i的预测类别c与真实类别相同时，y_c为1，否则y_c为0，p_c为所述点v_i属于所述预测类别c的预测概率，M为所述点v_i的预测类别c的数量。

6.如权利要求1所述的方法，其中，所述基于该对抗图数据，调整所述图模型，以增强所述图模型的抗攻击能力，包括：

将所述对抗图数据输入所述图模型，得到与所述对抗图数据中的每一点对应的输出，所述输出用于表征该点属于该输出对应类别的概率；

针对所述对抗图数据中的同一点，若该点的所有所述输出中的最大值对应的类别与该点的真实类别不同，则判定该点对应的攻击成功；

针对所述对抗图数据中的多个点，统计对应于该多个点的所述攻击的成功次数在所述攻击的总次数中的比例，并基于该比例调整所述图模型，以增强所述图模型的抗攻击能力。

7.如权利要求1所述的方法，其中，所述图模型为用于对图数据中的点进行分类的模型，该图数据中的节点用于表征实体对象。