[发明专利]用于保护图案分类节点免受恶意请求的方法及相关网络和节点

说明书

可以提供一种操作用于保护图案分类节点免受恶意请求的保护节点的方法。该保护节点可以从用户节点接收请求，该请求包含要通过由图案分类节点所执行的机器学习算法来分类的原始图案。该保护节点可以向原始图案添加噪声以生成有噪声图案。该保护节点可以基于通过在该保护节点处的机器学习算法的第一克隆对有噪声图案的处理来获得有噪声图案的第一分类；基于转发对通过在图案分类节点处执行的机器学习算法来处理原始图案的请求来获得原始图案的第二分类；以及比较第一分类和第二分类以确定第一分类和第二分类是否满足所定义的相似性规则。该保护节点可以使用该比较以管理来自用户节点的请求。

技术领域

本公开一般地涉及保护网络，更特别地涉及保护图案分类节点免受恶意请求。

背景技术

机器学习算法尤其是神经网络可容易受到特定攻击的影响，其中恶意用户发送精心设计的输入以混淆神经网络并且可迫使其产生不正确的预测/分类。一个著名的示例如图1中所示，其中噪声可以被添加到熊猫图片进而被反馈回卷积神经网络(CNN,VGG-16)，以将该熊猫图片错误地分类为长臂猿。

这种问题通常可能是无害的，并且可以通过重新训练原始神经网络以对其输入进行正确分类来进行改进。然而，在某些情况下这种方法可被精心构造以导致更严重的问题——例如，通过向停车标志的图像添加少量噪声，它可被错误地贴标签为其他东西，从而导致自动驾驶车辆忽略它并可能导致事故。

发明内容

根据发明构思的一些实施例，可以提供一种由保护节点执行的用于保护图案分类节点免受恶意请求的方法。该保护节点可以从用户节点接收请求，该请求包含要通过由图案分类节点所执行的机器学习算法来分类的原始图案。该保护节点可以向原始图案添加噪声以生成有噪声图案。该保护节点可以基于通过由保护节点所执行的机器学习算法的第一克隆对有噪声图案的处理，获得有噪声图案的第一分类。该保护节点可以基于转发对通过由图案分类节点所执行的机器学习算法来处理原始图案的请求，获得原始图案的第二分类。进而，该保护节点可以比较第一分类和第二分类，以确定第一分类和第二分类是否满足所定义的相似性规则。该保护节点可以使用该比较以管理来自用户节点的请求。

根据本发明构思的一些其他实施例，可以提供一种保护节点。该保护节点可以包括至少一个处理器、以及被连接到至少一个处理器以执行操作的至少一个存储器。这些操作可以包括：从用户节点接收请求，该请求包含要通过由图案分类节点所执行的机器学习算法来分类的原始图案。这些操作还可以包括向原始图案添加噪声以生成有噪声图案，以及基于通过由保护节点所执行的机器学习算法的第一克隆对有噪声图案的处理，获得有噪声图案的第一分类。这些操作还可以包括基于转发对通过由图案分类节点所执行的机器学习算法来处理原始图案的请求，获得原始图案的第二分类。此外，这些操作可以包括比较第一分类和第二分类，以确定第一分类和第二分类是否满足所定义的相似性规则。这些操作还可以包括使用该比较以管理来自用户节点的请求。

根据一些实施例，可以提供一种包括指令的计算机程序，当这些指令在至少一个处理器上被执行时使至少一个处理器执行由保护节点执行的方法。

根据一些实施例，可以提供一种计算机程序产品，该计算机程序产品包括存储指令的非暂时性计算机可读介质，当这些指令在至少一个处理器上被执行时使至少一个处理器执行由保护节点执行的方法。

一个或多个实施例可以提供的操作优势在于通过比较第一分类和第二分类以确定第一分类和第二分类是否满足所定义的相似性规则以及在第一分类和第二分类不满足所定义的相似性规则时管理用户节点的请求，保护节点可以保护图案分类节点免受恶意请求。

附图说明

被包括以提供对本公开的进一步理解并且被并入构成本申请的一部分的附图示出了发明构思的某些非限制性实施例。在附图中：

图1是示出噪声被添加到熊猫图片进而被反馈回卷积神经网络(CNN，VGG-16)以将该熊猫图片错误地分类为长臂猿的示例；