[发明专利]一种增强图模型抗攻击能力的方法和系统

说明书

本申请实施例公开了一种增强图模型抗攻击能力的方法和系统。所述方法包括：获取目标图数据，其包括第一点集V1以及边集E；任意生成n条边的扰动边集ΔE，其中，n条边的节点构成第二点集V2；从第二点集V2中任意选择一个修正点；从第一点集V1中任意选择若干个点构成修正点的候选目标点集V3；从候选目标点集V3中选择一个目标点，并利用选择的目标点替换修正点，以更新扰动边集ΔE得到扰动边集ΔE′；基于扰动边集ΔE′调整边集E得到调整后的目标图数据；重复从第二点集V2中选择修正点并迭代调整边集E，得到对抗图数据；基于该对抗图数据，调整图模型。其中，目标图数据可以包括个人信息，图模型可以为机器学习模型。

技术领域

本申请涉及计算机技术领域，特别涉及一种增强图模型抗攻击能力的方法和系统。

背景技术

图模型有着广泛的应用场景，例如自然科学、工程技术、社会经济和管理等方面。然而，只需对图结构添加很少的扰动，就能使得图模型输出期望以外的结果。为了提前预知模型潜在的威胁，有关图模型对抗攻击算法的研究有助于发现模型漏洞，对模型的鲁棒性测试及安全应用有着重大的意义。

基于此，本申请提供了一种增强图模型抗攻击能力的方法和系统。

发明内容

本申请实施例之一提供一种增强图模型抗攻击能力的方法。所述增强图模型抗攻击能力的方法包括：获取目标图数据，所述目标图数据包括第一点集V1以及边集E；任意生成n条边的扰动边集ΔE，其中，所述n条边的节点构成第二点集V2，所述n条边的节点均存在于所述第一点集V1中；从所述第二点集V2中任意选择一个修正点；从所述第一点集V1中任意选择若干个点构成所述修正点的候选目标点集V3；从所述候选目标点集V3中选择一个目标点，并利用选择的所述目标点替换所述修正点，以更新所述扰动边集ΔE得到扰动边集ΔE′；基于所述扰动边集ΔE′调整所述边集E得到调整后的目标图数据，在所述调整后的目标图数据输入所述图模型的输出结果与对应该输出结果的真实结果之差的绝对值增大时，接受该次替换；重复从所述第二点集V2中选择修正点并迭代调整所述边集E，得到对抗图数据；基于该对抗图数据，调整所述图模型，以增强所述图模型的抗攻击能力。

本申请实施例之一提供一种增强图模型抗攻击能力的系统，所述系统可以包括：获取模块，用于获取目标图数据，所述目标图数据包括第一点集V1以及边集E；生成模块，用于任意生成n条边的扰动边集ΔE，其中，所述n条边的节点构成第二点集V2，所述n条边的节点均存在于所述第一点集V1中；第一选择模块，用于从所述第二点集V2中任意选择一个修正点；第二选择模块，用于从所述第一点集V1中任意选择若干个点构成所述修正点的候选目标点集V3；替换模块，用于从所述候选目标点集V3中选择一个目标点，并利用选择的所述目标点替换所述修正点，以更新所述扰动边集ΔE得到扰动边集ΔE′；调整模块，用于基于所述扰动边集ΔE′调整所述边集E得到调整后的目标图数据，在所述调整后的目标图数据输入所述图模型的输出结果与对应该输出结果的真实结果之差的绝对值增大时，接受该次替换；对抗图数据确定模块，用于在所述第一选择模块重复从所述第二点集V2中选择修正点，以使得所述调整模块迭代调整所述边集E时，得到对抗图数据；增强模块，用于基于该对抗图数据，调整所述图模型，以增强所述图模型的抗攻击能力。

本说明书实施例的一个方面提供一种增强图模型抗攻击能力的装置，包括处理器，所述处理器用于执行如上所述的任一项提供一种增强图模型抗攻击能力的方法。

本说明书实施例的一个方面提供一种计算机可读存储介质，所述存储介质存储计算机指令，当计算机读取存储介质中的计算机指令后，计算机运行如上所述的任一项提供一种增强图模型抗攻击能力的方法。

附图说明

本申请将以示例性实施例的方式进一步说明，这些示例性实施例将通过附图进行详细描述。这些实施例并非限制性的，在这些实施例中，相同的编号表示相同的结构，其中：

图1是根据本申请一些实施例所示的增强图模型抗攻击能力的系统的模块图；