[发明专利]针对视觉模型的处理方法及装置

说明书

本公开提供了一种针对视觉模型的处理方法，涉及人工智能领域，尤其涉及自动驾驶、深度学习和计算机视觉等技术领域，可用于视觉模型的鲁棒性评估场景。具体实现方案为：利用对抗样本中的每个样本图像对目标视觉模型进行攻击，其中，通过在数据集中每个原始图像的阴影区域内增加对抗性扰动，以得到与对抗样本中的每个样本图像；统计对抗样本对目标视觉模型的攻击成功率；以及基于攻击成功率，对目标视觉模型进行鲁棒性评估。

技术领域

本公开涉及人工智能领域，尤其涉及自动驾驶、深度学习和计算机视觉等技术领域，可用于AI模型(即人工智能模型)的鲁棒性评估场景。

背景技术

近年来，深度学习技术已广泛应用于人工智能领域。在计算机视觉领域，深度学习已成为自动驾驶、图片审核、监控和安保应用的主力。然而研究发现，对图像进行某种轻微干扰，有可能诱导AI模型误判。

发明内容

本公开提供了一种针对视觉模型的处理方法、以及视觉模型训练方法、装置、设备、存储介质以及计算机程序产品。

根据本公开的一方面，提供了一种针对视觉模型的处理方法，包括：利用对抗样本中的每个样本图像对目标视觉模型进行攻击，其中，通过在数据集中每个原始图像的阴影区域内增加对抗性扰动，以得到所述对抗样本中的所述每个样本图像；统计所述对抗样本对所述目标视觉模型的攻击成功率；以及基于所述攻击成功率，对所述目标视觉模型进行鲁棒性评估。

根据本公开的另一方面，提供了一种视觉模型训练方法，包括：获取训练样本，其中，所述训练样本中包含预定比例的在图像阴影区域内增加有对抗扰动的样本图像；以及利用所述训练样本进行视觉模型训练，以得到对应的视觉模型。

根据本公开的另一方面，提供了一种针对视觉模型的处理装置，包括：攻击模块，用于利用对抗样本中的每个样本图像对目标视觉模型进行攻击，其中，通过在数据集中每个原始图像的阴影区域内增加对抗性扰动，以得到所述对抗样本中的所述每个样本图像；统计模块，用于统计所述对抗样本对所述目标视觉模型的攻击成功率；以及评估模块，用于基于所述攻击成功率，对所述目标视觉模型进行鲁棒性评估。

根据本公开的另一方面，提供了一种视觉模型训练装置，包括：样本获取模块，用于获取训练样本，其中，所述训练样本中包含预定比例的在图像阴影区域内增加有对抗扰动的样本图像；以及对抗训练模块，用于利用所述训练样本进行视觉模型训练，以得到对应的视觉模型。

根据本公开的另一方面，提供了一种电子设备，包括：至少一个处理器；以及与所述至少一个处理器通信连接的存储器；其中，所述存储器存储有可被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行本公开实施例所述的方法。

根据本公开的另一方面，提供了一种存储有计算机指令的非瞬时计算机可读存储介质，其中，所述计算机指令用于使所述计算机执行根据本公开实施例所述的方法。

根据本公开的另一方面，提供了一种计算机程序产品，包括计算机程序，所述计算机程序在被处理器执行时实现根据本公开实施例所述的方法。

应当理解，本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征，也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。

附图说明

附图用于更好地理解本方案，不构成对本公开的限定。其中：

图1示例性示出了适于本公开实施例的系统架构；

图2示例性示出了根据本公开实施例的针对视觉模型的处理方法的流程图；

图3示例性示出了根据本公开实施例的视觉模型训练方法的流程图；

图4示例性示出了根据本公开实施例的针对视觉模型的处理装置的框图；