[发明专利]具有鲁棒深度生成模型的系统和方法

权利要求书

1.一种用于将机器学习系统训练成对扰动鲁棒的计算机实现方法，所述方法包括：

获得输入数据，所述输入数据包括传感器数据和可容许扰动的ℓ_p范数球的半径；

基于所述输入数据来生成输入边界数据；

通过在编码器网络的第一输出上传播所述输入边界数据来生成第一边界数据；

通过在编码器网络的第二输出上传播所述输入边界数据来生成第二边界数据；

基于第一和第二边界数据来生成与隐变量相关联的第三边界数据；

通过在解码器网络的输出上传播第三边界数据来生成第四边界数据；

通过基于第一边界数据、第二边界数据、第三边界数据和第四边界数据来生成证据下边界（ELBO）的下边界从而关于所述输入数据来建立鲁棒性凭证；以及

基于所述鲁棒性凭证来更新所述编码器网络和所述解码器网络，使得包括所述编码器网络和所述解码器网络的所述机器学习系统在针对可容许扰动进行防御方面是鲁棒的。

2.根据权利要求1所述的计算机实现方法，其中：

所述ELBO包括条件对数似然函数；以及

更新所述编码器网络和所述解码器网络的步骤包括优化所述ELBO的下边界。

3.根据权利要求1所述的计算机实现方法，其中更新所述编码器网络和所述解码器网络的步骤包括：

基于所述ELBO的下边界来更新所述编码器网络和所述解码器网络的参数，以使所述ELBO的下边界最大化。

4.根据权利要求1所述的计算机实现方法，其中：

所述机器学习系统包括变分自编码器，所述变分自编码器包括所述编码器网络和所述解码器网络；以及

隐变量与所述变分自编码器相关联。

5.根据权利要求1所述的计算机实现方法，其中：

所述编码器网络包括用于产生所述编码器网络的第一输出的第一编码组件和用于产生所述编码器网络的第二输出的第二编码组件；

生成第一边界数据的步骤包括生成第一编码组件的第一上边界数据和第一下边界数据；以及

生成第二边界数据的步骤包括生成第二编码组件的第二上边界数据和第二下边界数据。

6.根据权利要求1所述的计算机实现方法，其中所述鲁棒性凭证生成所述ELBO的下边界，以确保对于满足 的所有δ，，其中

x表示传感器数据，

δ表示扰动数据，

L(x+δ)表示基于被扰动数据所扰动的传感器数据的ELBO，

表示所述ELBO的下边界，以及

ϵ_train表示可容许扰动的ℓ_p范数球的半径。

7.根据权利要求1所述的计算机实现方法，其中：

所述输入边界数据包括所述输入数据的上边界数据和下边界数据；

第一边界数据包括所述编码器网络的第一编码组件的第一输出的第一上边界数据和第一下边界数据；

第二边界数据包括所述编码器网络的第二编码组件的第二输出的第二上边界数据和第二下边界数据；

第三边界数据包括与隐变量相关联的第三上边界数据和第三下边界数据；以及

第四边界数据包括所述解码器网络的输出的第四上边界数据和第四下边界数据。