[发明专利]用于训练分类器和评估分类器鲁棒性的设备和方法

权利要求书

1.一种用于训练分类器（60）的计算机实现的方法，其中分类器（60）被配置为对数字图像数据和/或音频数据的输入信号进行分类，并且训练分类器（60）是基于扰动输入信号，所述扰动输入信号是通过将从多个（）扰动提供的扰动施加到从训练数据集提供的输入信号而获得的，其中所述方法包括以下步骤：

• 提供多个初始扰动；

• 将来自所述多个初始扰动的扰动适应于输入信号，其中所述输入信号是从所述训练数据集随机抽取的，并且所述扰动适应于所述输入信号，使得将所述扰动施加到所述输入信号产生第二输入信号，所述第二输入信号与第一输入信号不同地被分类；

• 提供所述多个初始扰动的子集作为多个（）扰动；

• 基于所述多个（）扰动训练分类器（60）。

2.根据权利要求1所述的方法，其中通过随机抽取噪声信号并提供噪声信号作为扰动来提供来自所述多个初始扰动的至少一个扰动。

3.根据权利要求1所述的方法，其中，通过从训练数据集或第二数据集随机采样输入信号，使包括在输入信号中的多个值适应，并提供经适应的输入信号作为扰动，来提供来自所述多个初始扰动的至少一个扰动。

4.根据权利要求2至3中任一项所述的方法，其中，在适应扰动的步骤中，将扰动施加到输入信号的区域，以获得扰动输入信号。

5.根据前述权利要求中任一项所述的方法，其中训练分类器（60）的步骤包括以下另外的步骤：

n.从所述多个扰动选择（603）第一扰动，并从训练数据集选择输入信号和对应的期望输出信号；

o．通过基于输入信号、对应的期望输出信号和分类器（60）适应第一扰动，获得（604）比第一扰动强的第二扰动；

p．通过将第二扰动施加到输入信号来获得（605）第一对抗性示例；

q．通过基于第一对抗性示例和对应的期望输出信号训练分类器（60）来适应（606）分类器（60），以针对第二扰动加固分类器（60）；

r．用第一扰动和第二扰动的线性组合替换（607）所述多个扰动中的第一扰动；

s．重复（608）步骤a.到e.。

6.一种用于提供对输入信号（x）的分类进行表征的输出信号（y）的计算机实现的方法，包括以下步骤：

• 根据前述权利要求中任一项训练分类器（60）；

• 在控制系统（40）中提供分类器（60）；

• 从控制系统（40）获得输出信号（y），其中控制系统（40）将输入信号（x）供应到分类器（60）以获得输出信号（y）；和

• 提供用于控制控制系统（40）的输出信号（40）。

7.根据权利要求6所述的方法，其中基于传感器（30）的信号（S）获得输入信号（x），和/或基于输出信号（y）控制致动器（10），和/或基于输出信号（y）控制显示设备（10a）。

8.一种用于确定分类器（60）的鲁棒性值的计算机实现的方法，其中分类器（60）被配置为对数字图像数据和/或音频数据的输入信号进行分类，所述方法包括以下步骤：

t.提供多个初始扰动；

u.从所述多个扰动选择第一扰动，并从测试数据集选择输入信号和对应的期望输出信号；

v.通过基于输入信号、对应的期望输出信号和分类器（60）适应第一扰动，获得比第一扰动强的第二扰动；

w.用第一扰动和第二扰动的线性组合替换所述多个扰动中的第一扰动；

x.在预定义的迭代次数内重复步骤h.至j.；

y.在已经完成了预定义次数的迭代之后，从相对于测试数据集的多个扰动确定最强扰动；

z.确定测试数据集中最强扰动能够针对其引起分类器（60）误分类的输入信号的分数，并将确定的分数作为鲁棒性值提供。

9.根据权利要求9所述的方法，其中通过随机抽取噪声信号并提供噪声信号作为扰动来提供来自所述多个初始扰动的至少一个扰动。