[发明专利]用于检测对抗性攻击的系统和方法

权利要求书

1.一种用于训练机器学习系统以检测对抗性攻击的计算机实现的方法，所述方法包括：

获得序列集合，所述序列集合至少包括第一序列和第二序列；

基于第一序列包括传感器数据的未扰动版本的第一预测，将第一序列分类为属于指示标称序列的第一类；

基于第二序列包括传感器数据的扰动版本的第二预测，将第二序列分类为属于指示对抗性序列的第二类；

基于如下各项生成组合损失数据：（i）第一平均损失，其牵涉到第一类相对于来自序列集合的第一组序列的不正确分类，其中第一组序列内的每个序列是标称序列，以及（ii）第二平均损失，其牵涉到第二类相对于来自序列集合的第二组序列的不正确分类，其中第二组序列内的每个序列是对抗性序列；以及

基于组合损失数据更新机器学习系统的参数。

2.根据权利要求1所述的计算机实现的方法，其中更新参数的步骤包括：

确定所述机器学习系统的鉴别性模型的参数，所述参数最小化牵涉到第一平均损失和第二平均损失的加权函数的组合损失数据。

3.根据权利要求1所述的计算机实现的方法，其中机器学习系统包括具有处理时间序列的架构的深度神经网络。

4.根据权利要求1所述的计算机实现的方法，其中机器学习系统包括递归神经网络、长短期记忆网络或门控递归单元。

5.根据权利要求1所述的计算机实现的方法，其中：

生成第一序列，使得另一机器学习系统针对第一序列生成第一类数据；

第二序列是第一序列的扰动版本，使得另一机器学习系统针对第二序列生成第二类数据；并且

第一类数据不同于第二类数据。

6.根据权利要求5所述的计算机实现的方法，其中：

从传感器数据流中提取第一序列；

第一序列包括传感器数据的多个帧；并且

第二序列包括子序列，子序列包括第一序列的所选帧的迭代扰动版本，其中所选帧的扰动版本之一引起另一机器学习系统针对第二序列生成第二类数据。

7.根据权利要求5所述的计算机实现的方法，其中：

从传感器数据流中提取第一序列；

第一序列包括传感器数据的多个帧；并且

第二序列的每个帧被相应的扰动所扰动，使得第二序列引起另一机器学习系统针对第二序列生成第二类数据。

8.一种包括计算机可读数据的非暂时性计算机可读介质，当由处理器执行时，所述计算机可读数据引起处理器执行一种方法来训练机器学习系统以检测对抗性攻击，所述方法包括：

获得序列集合，所述序列集合至少包括第一序列和第二序列；

基于第一序列包括传感器数据的未扰动版本的第一预测，将第一序列分类为属于指示标称序列的第一类；

基于第二序列包括传感器数据的扰动版本的第二预测，将第二序列分类为属于指示对抗性序列的第二类；

基于如下各项生成组合损失数据：（i）第一平均损失，其牵涉到第一类相对于来自序列集合的第一组序列的不正确分类，其中第一组序列内的每个序列是标称序列，以及（ii）第二平均损失，其牵涉到第二类相对于来自序列集合的第二组序列的不正确分类，其中第二组序列内的每个序列是对抗性序列；以及

基于组合损失数据更新机器学习系统的参数。

9.根据权利要求8所述的非暂时性计算机可读介质，其中更新参数的步骤包括：

确定机器学习系统的鉴别器模型的参数，所述参数最小化牵涉到第一平均损失和第二平均损失的加权函数的组合损失数据。

10.根据权利要求8所述的非暂时性计算机可读介质，其中机器学习系统包括具有处理时间序列的架构的深度神经网络。

11.根据权利要求8所述的非暂时性计算机可读介质，其中机器学习系统包括递归神经网络、长短期记忆网络或门控递归单元。