[发明专利]可证明鲁棒的能够解释的机器学习模型的系统

权利要求书

1.一种用于鲁棒机器学习的系统，包括：

处理器；以及

非暂时性存储器，在所述非暂时性存储器上存储有由所述处理器执行的模块，所述模块包括：

攻击检测器，包括一个或多个深度神经网络，所述深度神经网络使用从包括生成式对抗网络(GAN)的多个模型生成的对抗示例来训练，所述攻击检测器被配置为基于输入是对抗性的可能性来产生警觉性得分；以及

各种类型和尺寸的独立鲁棒机器学习(ML)模型的动态集成，并且所有模型都被训练以执行基于机器学习的预测，其中，控制函数在操作的推断阶段期间动态地适配针对所述动态集成部署的ML模型的类型和尺寸，其中，所述控制函数响应于从所述攻击检测器接收的所述警觉性得分。

2.根据权利要求1所述的系统，其中，所述控制函数还基于包括可用系统存储器和最大时间中的一个的参数来选择ML模型的类型和尺寸，以根据所述预测的紧急程度来计算所述预测。

3.根据权利要求1所述的系统，其中，所训练的攻击检测器通过调整所述警觉性得分以针对更快速的响应要求更小的鲁棒性和更精益的ML模型，在操作的推断阶段期间对输入的快速性作出反应。

4.根据权利要求1所述的系统，其中，所述攻击检测器通过调整所述警觉性得分以要求更大的鲁棒性，对输入是对抗性的高可能性作出反应。

5.根据权利要求1所述的系统，所述模块还包括：

数据保护器模块，包括能够解释的神经网络模型，所述能够解释的神经网络模型被配置为：

学习用于解释类预测的原型；

形成依赖于潜在空间的几何结构的初始训练数据的类预测，其中，所述类预测确定测试输入如何同类于来自每个类的输入的原型部分，并且

在来自无关类的原型部分被激活的条件下，检测初始训练数据中的潜在数据投毒或后门触发。

6.根据权利要求1所述的系统，其中，数据保护器模块还被配置为：

识别潜在空间几何结构中的异常，并且

将能够解释的预测的可视化发送到用户界面，以指导定位到所激活的原型部分的附加训练。

7.根据权利要求1所述的系统，其中，数据保护器还被配置为：

采用训练数据的潜在空间嵌入，其中距离对应于当前上下文中感知或含义的变化量。

8.一种鲁棒机器学习的计算机实现的方法，包括：

训练攻击检测器，所述攻击检测器被配置为一个或多个深度神经网络，所述深度神经网络使用从包括生成式对抗网络(GAN)的多个模型生成的对抗示例来训练；

训练各种类型和尺寸的多个机器学习(ML)模型以针对给定输入执行基于ML的预测任务；

由所训练的攻击检测器在操作的推断阶段期间监视旨在用于多个所述ML模型的子集的动态集成的输入；

基于所述输入是对抗性的可能性针对每个输入产生警觉性得分；以及

响应于所述警觉性得分，由控制函数在操作的推断阶段期间动态地适配针对所述动态集成部署的ML模型的类型和尺寸。

9.根据权利要求8所述的方法，其中，所述控制函数还基于包括可用系统存储器和最大时间中的一个的参数来选择ML模型的类型和尺寸，以根据所述预测的紧急程度来计算所述预测。

10.根据权利要求8所述的方法，还包括：

由所训练的攻击检测器通过调整所述警觉性得分以针对更快速的响应要求更小的鲁棒性和更精益的ML模型，在操作的推断阶段期间对输入的快速性作出反应。

11.根据权利要求8所述的方法，其中，所述攻击检测器通过调整所述警觉性得分以要求所述动态集成中的更大的鲁棒性，对输入是对抗性的高可能性作出反应。