[发明专利]用于预防对AI单元进行攻击的防御生成器、方法以及计算机可读存储介质

权利要求书

1.一种用于动态生成至少一个AI防御模块(16)的防御生成器(20)，包括：

-分块单元(21)，用于确定模型数据(15)的至少一个分块(26、53、61)，其中所述模型数据(15)与AI单元(30)相关联，并且所述至少一个分块(26、53、61)表示所述模型数据(15)的至少一个子集；

-聚合单元(22)，用于确定聚合数据(27)，其中所述聚合数据(27)将至少一个，特别是数学上的关键值分配给所述至少一个分块(26、53、61)；

-分布单元(23)，用于确定所述聚合数据(27)的分布函数(28、65)；

-推理单元(24)，用于使用所述分布函数(28、65)确定至少一个推理配置(29)；

-数据转换单元(25)，用于使用所述至少一个推理配置(29)生成所述AI单元(30)的至少一个AI防御模块(16)，其中所述至少一个AI防御模块(16)用于对所述AI单元(30)的输入数据集(5、14)执行以下步骤：

ο确定对所述AI单元(30)的攻击是否可以与所述输入数据集(5、14)相关联；和/或

ο使用数据转换来确定第二输入数据集(14)，其中对所述AI单元(30)的攻击不能与所述第二输入数据集(14)相关联。

2.根据权利要求1所述的防御生成器(20)，其特征在于，

所述分块单元(21)用于接收分块指示(51、211)，其中所述分块指示(51、211)特别是用户可定义的，所述分块指示(51、211)优选表示内核大小、步幅和/或偏移量，并且其中所述分块单元(21)用于使用所述分块指示(51、211)来确定所述至少一个分块(26、53、61)。

3.根据前述权利要求任一项所述的防御生成器(20)，其特征在于，

所述聚合单元(22)用于接收，特别是用户可定义的聚合指示(221)，其中所述聚合指示(221)和/或所述至少一个关键值在每种情况下表示所述至少一个分块(26、53、61)的奇异值分解、卷积、平均值、中值和/或方差，并且其中所述聚合单元(22)用于根据所述聚合指示(221)确定所述聚合数据(27)。

4.根据前述权利要求任一项，特别是根据权利要求2所述的防御生成器(20)，其特征在于，

所述聚合单元(22)用于从所述分块单元(21)接收所述分块指示(211、51)，其中用于确定所述聚合数据(27)的所述聚合单元(22)用于从所述至少一个分块(26、53、61)中减去所述分块指示(51、221)。

5.根据前述权利要求任一项所述的防御生成器(20)，其特征在于，

-所述防御生成器(20)用于接收，特别是用户可定义的目标定义(12)，其中所述推理单元(24)用于根据所述目标定义(12)来确定所述推理配置(29)，其中

-所述数据转换单元(25)用于根据所述推理配置(29)来选择是否执行下列操作：

ο确定所述输入数据集(5、14)是否可能与对所述AI单元(30)的攻击相关联，和/或

ο通过使用数据转换来确定第二输入数据集(14)，其中对所述AI单元(30)的攻击不能与所述第二输入数据集(14)相关联。

6.根据前述权利要求任一项所述的防御生成器(20)，其特征在于，

所述分布单元(23)用于接收，特别是用户可定义的分布指示(231)，其中所述分布单元(23)还用于根据所述分布指示(231)来确定所述分布函数(65)，其中所述分布指示(231)表示显式或隐式的分布函数(28)。

7.根据前述权利要求任一项所述的防御生成器(20)，其特征在于，

所述推理单元(24)用于接收至少一个，特别是用户可定义的阈值(241)，并根据所述至少一个阈值(241)来确定所述推理配置，其中所述至少一个阈值(241)指示当超过所述至少一个阈值(241)时，所述AI防御模块(16)执行所述数据转换。