[发明专利]使用降低精度的深度神经网络的对抗性输入识别

说明书

本申请涉及使用降低精度的深度神经网络的对抗性输入识别。处理器接收输入数据，并将输入数据提供给包括第一神经网络模型的第一神经网络。第一神经网络模型具有第一数值精度水平。使用第一神经网络从输入数据生成第一特征向量。将输入数据提供给包括第二神经网络模型的第二神经网络。第二神经网络模型具有与第一数值精度水平不同的第二数值精度水平。使用第二神经网络从输入数据生成第二特征向量。计算第一特征向量和第二特征向量之间的差异度量。差异度量指示输入数据是否包括对抗性数据。

技术领域

本发明一般而言涉及一种用于识别深度神经网络的对抗性输入的方法、系统和计算机程序产品。更特别地，本发明涉及用于使用降低精度的深度神经网络的对抗性输入识别的方法、系统和计算机程序产品。

背景技术

人工神经网络(ANN)—也简称为神经网络—是由许多简单、高度互连的处理元件(节点)组成的计算系统，这些处理元件通过它们对外部输入的动态状态响应来处理信息。ANN是根据哺乳动物大脑皮层的神经元结构被松散地建模但规模要小得多的处理设备(算法和/或硬件)。大型ANN可能具有数百或数千个处理器单元，而哺乳动物的大脑则具有数十亿个神经元，并且它们的整体交互和突现(emergent)行为的量相应增加。前馈神经网络是其中单元之间的连接不形成循环的人工神经网络。

深度神经网络(DNN)是一种人工神经网络(ANN)，其在输入层和输出层之间具有多个隐藏的单元层。与浅层ANN类似，DNN可以对复杂的非线性关系建模。例如，用于对象检测和解析的DNN体系架构生成合成模型，其中对象被表示为图像基元(primitive)的分层合成。额外的层使得能够合成来自较低层的特征，从而与类似地执行浅层网络相比，给出了用更少的单元对复杂数据进行建模的可能性。DNN通常被设计为前馈网络。DNN通常用于计算机视觉的图像分类任务，其中图像中表示的对象被识别并且被分类。

发明内容

说明性实施例提供了一种方法、系统和计算机程序产品。方法的实施例包括由处理器接收输入数据，并将输入数据提供给包括第一神经网络模型的第一神经网络。在实施例中，第一神经网络模型具有第一数值精度水平。实施例还包括使用第一神经网络从输入数据生成第一特征向量，以及将输入数据提供给包括第二神经网络模型的第二神经网络。在本实施例中，第二神经网络模型具有与第一数值精度水平不同的第二数值精度水平。实施例还包括使用第二神经网络从输入数据生成第二特征向量。实施例还包括计算第一特征向量和第二特征向量之间的差异度量。在本实施例中，差异度量指示输入数据是否包括对抗性数据。

另一个实施例还包括将差异度量与预定阈值进行比较。

另一个实施例还包括：确定差异度量超过预定阈值；以及响应于确定差异度量超过预定阈值，确定输入数据包括对抗性数据。另一个实施例还包括丢弃输入数据。

另一个实施例还包括：确定差异度量未超过预定阈值；以及响应于确定差异度量未超过预定阈值，确定输入数据的分类。

在另一个实施例中，第一数值精度水平大于第二数值精度水平。在另一个实施例中，第一数值精度水平是全数值精度水平。

在另一个实施例中，第一神经网络模型是具有已知数值精度水平的已发布的神经网络模型。在另一个实施例中，第二神经网络模型是降低精度的神经网络模型。在另一个实施例中，第二神经网络模型是加密的神经网络模型。

在另一个实施例中，第二神经网络模型的一个或多个层包括不同的数值精度水平。

在另一个实施例中，第一神经网络或第二神经网络中的一个或多个包括深度神经网络(DNN)。在另一个实施例中，输入数据包括图像数据。

实施例包括计算机可用程序产品。该计算机可用程序产品包括一个或多个计算机可读存储设备，以及存储在一个或多个存储设备中的至少一个存储设备上的程序指令。