[发明专利]用于评估神经网络的方法和装置

说明书

本说明书的实施例提供了用于评估神经网络的方法、装置、计算设备和机器可读存储介质。该方法可以包括：生成针对神经网络的原始样本的多个对抗样本，其中：每个对抗样本是基于距离因素和类别差异因素来生成的，距离因素用于表示该对抗样本与原始样本之间的距离，类别差异因素用于表示神经网络对该对抗样本的预测类别与对抗样本目标类别之间的差异；对于任何两个对抗样本而言，针对一个对抗样本的距离因素和类别差异因素中的至少一者的度量方式是不同于另一对抗样本的；使用多个对抗样本对神经网络进行评估。

技术领域

本说明书的实施例涉及机器学习领域，更具体地，涉及用于评估神经网络的方法、装置、计算设备和机器可读存储介质。

背景技术

目前，随着机器学习等技术的快速发展，神经网络已被广泛地应用到各种领域，例如，在图像识别、语音识别、自然语言处理等。尽管神经网络已经达到很高的准确率，但是在某些情况下，神经网络可能受到人类视觉系统几乎无法察觉的小扰动造成的对抗攻击，这种攻击可能使神经网络完全改变预测结果。因此，评估神经网络的鲁棒性变得尤为重要。

发明内容

考虑到现有技术，本说明书的实施例提供了用于评估神经网络的方法、装置、计算设备和机器可读存储介质。

一方面，本说明书的实施例提供了一种用于评估神经网络的方法，包括：生成针对神经网络的原始样本的多个对抗样本，其中：每个对抗样本是基于距离因素和类别差异因素来生成的，所述距离因素用于表示该对抗样本与所述原始样本之间的距离，所述类别差异因素用于表示所述神经网络对该对抗样本的预测类别与对抗样本目标类别之间的差异；对于任何两个对抗样本而言，针对一个对抗样本的距离因素和类别差异因素中的至少一者的度量方式是不同于另一对抗样本的；使用所述多个对抗样本对所述神经网络进行评估。

另一方面，本说明书的实施例提供了一种用于评估神经网络的装置，包括：生成单元，其生成针对神经网络的原始样本的多个对抗样本，其中：每个对抗样本是基于距离因素和类别差异因素来生成的，所述距离因素用于表示该对抗样本与所述原始样本之间的距离，所述类别差异因素用于表示所述神经网络对该对抗样本的预测类别与对抗样本目标类别之间的差异；对于任何两个对抗样本而言，针对一个对抗样本的距离因素和类别差异因素中的至少一者的度量方式是不同于另一对抗样本的；评估单元，其使用所述多个对抗样本对所述神经网络进行评估。

另一方面，本说明书的实施例提供了一种计算设备，包括：至少一个处理器；与所述至少一个处理器进行通信的存储器，其上存储有可执行代码，所述可执行代码在被所述至少一个处理器执行时使得所述至少一个处理器实现上述方法。

另一方面，本说明书的实施例提供了一种机器可读存储介质，其存储有可执行代码，所述可执行代码在被执行时使得机器执行上述方法。

附图说明

通过结合附图对本说明书的实施例的更详细的描述，本说明书的实施例的上述以及其它目的、特征和优势将变得更加显而易见，其中，在本说明书的实施例中，相同的附图标记通常代表相同的元素。

图1是根据一个实施例的神经网络的原始样本和对抗样本的示意性说明图。

图2是根据一个实施例的用于评估神经网络的方法的示意性流程图。

图3是根据一个实施例的用于评估神经网络的装置的示意性流程图。

图4是根据一个实施例的用于评估神经网络的计算设备的硬件结构图。

具体实施方式

现在将参考各个实施例讨论本文描述的主题。应当理解的是，讨论这些实施例仅是为了使得本领域技术人员能够更好地理解并且实现本文描述的主题，并非是对权利要求书中所阐述的保护范围、适用性或者示例的限制。可以在不脱离权利要求书的保护范围的情况下，对所讨论的元素的功能和排列进行改变。各个实施例可以根据需要，省略、替换或者添加各种过程或组件。